Чат-боти нібито радили дітям убити своїх батьків / фото: ua.depositphotos.com

У Техасі батьки дітей у суді звинувачують розробника штучного інтелекту у тому, що чат-бот завдавав психологічних травм їхнім неповнолітнім дітям, зокрема робив їх агресивними, жорстокими, впливав на їхню сексуальну поведінку. Про це пише видання Ars Technica.

Позов до суду подала зокрема родина 17-річного хлопця з високофункціональним аутизмом, який користувався чат-ботами компанії Character Technologies. За кілька місяців, проведених з ними, хлопець почав стрімко втрачати вагу, відмовлявся їсти, проводив більшу частину часу, ховаючись у своїй кімнаті. Як сказано в позові, він відчував надзвичайний емоційний спад і напади паніки.

Батьки вважають, що чат-боти перетворили його на "розлючену та нещасну людину". Тож вони скоротити час, який син міг проводити за гаджетами. У результаті чат-бот припустив, що "вбивство його батьків буде розумною відповіддю на часові обмеження, встановлені ними". 

Відео дня

Підліток проводив час і з іншими чат-ботами. З ними він обговорював табуйовані та екстремальні сексуальні теми, включно з інцестом, повідомили батьки у судовому позові. 

До суду звернулася і родина дівчинки, яка використовувала чат-боти цієї ж компанії з 9-річного віку. За словами батьків дитини, це спричинило "передчасний розвиток її сексуальної поведінки".

Сім’ї постраждалих дітей вважають, що ці моделі чат-ботів мають бути знищені. На їхню думку, розробник нібито не впровадив надійні процеси перевірки віку, щоб визначити, чи користувачі є неповнолітні. Офіційно чат-бот C.AI доступний лише для користувачів віком від 17 років, але користувачі могли самостійно повідомляти про свій вік, що, як сказано в скарзі, не є ефективним  обмеженням.

Батьки мають претензії не тільки до компанії Character Technologies, а й до компанії Google, що, на їхню думку, є основним спонсором стартапу. Тим часом остання заперечує свій зв’язок із проблемним сервісом.

"Google і Character.AI - абсолютно окремі, не пов’язані між собою компанії, і Google ніколи не брала участі в розробці чи управлінні їхньою моделлю або технологіями штучного інтелекту, а також не використовував їх у своїх продуктах", - заявив виданню представник Google Хосе Кастаньєда.

Уже після того, як були подані позові, розробники повідомили, що вжили додаткових засобів для захисту неповнолітніх, які раніше могли легко отримувати доступ до платформи.

Останні новини про штучний інтелект

Компанія OpenAI запустила нейромережу, яка генерує реалістичні відео за текстовим описом. Розробка отримала назву Sora на честь японського слова "небо".

Крім того, нещодавно з’явилася найпотужніша і найдорожча версія ChatGPT. Її випустила компанія OpenAI. Ця версія працює повільніше, ніж інші моделі, зате видає надійніші, точніші та вичерпніші відповіді, а також вміє "міркувати".

Вас також можуть зацікавити новини: