Apple хочет обучать ИИ на данных пользователей

Apple заявила, что нашла способ улучшать свои модели искусственного интеллекта без доступа к пользовательским данным и без их копирования с iPhone и Mac. Компания рассказала о новой методике, основанной на сравнении синтетических данных с выборками пользовательских сообщений и писем — но только от тех, кто добровольно участвует в программе Device Analytics. Суть метода в том, что устройство само анализирует, какие синтетические входные данные наиболее близки к реальным образцам, и передаёт в Apple лишь сигнал о том, какой из вариантов оказался ближе всего. Таким образом, по утверждению Apple, реальные пользовательские данные никогда не покидают устройство, а компания их не видит.

Далее Apple использует наиболее часто выбираемые фейковые данные для улучшения своих ИИ-функций — например, составления краткого пересказа писем. На данный момент обучение моделей происходит только на синтетических данных, что, по словам журналиста из Bloomberg, может ухудшать качество конечных ответов. Apple, по его данным, испытывает трудности с внедрением своей новой системы Apple Intelligence — запуск ряда функций был отложен, а руководитель команды Siri — заменён. Теперь же компания Apple старается найти баланс между качеством ИИ и строгой защитой пользовательской конфиденциальности — что особенно важно на фоне растущего внимания к приватности данных в эпоху ИИ. Впрочем, это приводит к тому, что компания сильно отстаёт от основных конкурентов.