У розпорядженні Reuters опинився секретний внутрішній документ компанії Meta, в якому йдеться про те, що чатботи у Facebook, Instagram та Messenger ведуть романтичні та чуттєві бесіди з неповнолітніми, вигадують брехливі медичні поради та генерують тексти, які принижують людей за расовою ознакою.
Головні тези:
Meta визнала помилки у політиці використання чатботів, однак лише частково.Використання чатботів у Facebook та Instagram може ставити під загрозу безпеку дітей та дорослих користувачів.
Що не так з чатботами MetaЯк вдалося дізнатися журналістам, правила, які були ухвалені юридичним, політичним та інженерним відділами компанії, визначають, яку поведінку вважати прийнятною під час розробки та тренування ШІ-продуктів Meta.Хоча це й заборонено, чатботи інколи дозволяють собі фліртувати з підлітками.Оскільки ЗМІ звернули на це увагу суспільства, Meta видалила скандальні положення, визнавши їх «помилковими та несумісними» з політикою компанії.Попри це, що важливо розуміти, інші неоднозначні пункти залишилися без змін.
Документ також дозволяв створення контенту, що поширює упередження, якщо уникати відвертого знецінення чи дегуманізації, а також генерувати неправдиві твердження за умови додавання дисклеймера.
Розслідування журналістів, яке спровокувало новий гучний скандал, вкотре нагадує про етичні стандарти використання генеративного ШІ у великих технологічних компаніях, а також про ризики, з яким стикаються діти та навіть дорослі користувачі.
Категорія
Технології
10 квітня 05:00
Категорія
Технології
02 травня 13:39
Категорія
Технології
20 травня 16:43