«Не люблю, когда мне лезут в душу»: M**a изменила алгоритм своего чат-бота после жалоб на бестактные личные вопросы

Компания Meta ✴ была вынуждена внести коррективы в алгоритмы подсказок своего чат-бота, так как искусственный интеллект стал чересчур интересоваться частной жизнью пользователей. Недавно в Сети распространилось видео, демонстрирующее, как чат-бот пытается выяснить личную информацию о маленьких детях. Компания признала, что «допустила ошибку» и «эта функция не должна была предлагать пользователю подобные вопросы».

На прошлой неделе пользователь Instagram ✴ Кейли Робинс (Kalie Robins) рассказала, как ИИ-помощник Meta ✴ начал бестактно выведывать информацию о её детях. Она разместила в Facebook ✴ видео, где вместе с ребёнком поёт в машине, после чего под видео появился запрос от ИИ: «Кто этот ребёнок-пассажир?» . По словам Робинс, чат-бот Meta ✴ сопоставил информацию о её дочерях из её собственных прошлых публикаций и постов её родственников. Система стала задавать дополнительные вопросы, касающиеся возраста детей и места жительства её семьи. Кроме того, как утверждает Робинс, Meta ✴ AI показал фотографии её дочерей, ранее размещённые на платформе, включая снимок, который она удалила много лет назад.

Представитель Meta ✴ Дина Эль-Кассаби (Dina El-Kassaby) заявила, что проблема, из-за которой чат-бот Meta ✴ задавал вопросы на слишком личные темы, уже устранена: «Мы создали эту функцию, чтобы помочь людям получать больше информации о темах или публикациях, которые их интересуют. Когда пользователь нажимает на подсказку и использует эту функцию, сгенерированный ответ основывается на информации, к которой у пользователя уже есть доступ».

Meta ✴ интегрировала своего ИИ-помощника в Facebook ✴ , Instagram ✴ , WhatsApp и Messenger. Он способен отвечать на вопросы, писать посты и генерировать изображения. В июле компания отказалась от функции, позволявшей создавать ИИ-дипфейки других пользователей Instagram ✴ , после того как столкнулась с резкой критикой.