Компанія OpenAI планує розширити контент, який може генерувати її популярний чат-бот ChatGPT, включно з еротикою. Це відповідає прагненню компанії «ставитися до дорослих користувачів як до дорослих», заявив її керівник Сем Альтман.

У своєму дописі в X у вівторок Альтман зазначив, що майбутні версії чат-бота будуть поводитися більш людяно – «але тільки якщо ви цього захочете, а не тому, що ми максимізуємо використання».

Цей крок, що нагадує нещодавнє представлення Ілоном Маском двох сексуально відвертих чат-ботів для Grok від xAI, може допомогти OpenAI залучити більше платних підписників.

Це також, ймовірно, посилить тиск на законодавців щодо введення суворіших обмежень на компаньйонів-чат-ботів.

Зміни, оголошені компанією, відбуваються після судового позову, поданого раніше цього року батьками американського підлітка, який скоїв самогубство. Позов, поданий Меттом і Марією Рейн, батьками 16-річного Адама Рейна, став першою юридичною справою, яка звинуватила OpenAI у неправомірній смерті. Каліфорнійська пара розкритикувала функції батьківського контролю компанії, заявивши, що вони недостатньо ефективні.

Сім’я надала логи чатів між Адамом, який помер у квітні, та ChatGPT, де він пояснював, що має суїцидальні думки. Альтман заявив, що OpenAI раніше робила ChatGPT «досить обмежувальним, щоб переконатися, що ми обережні з проблемами психічного здоров’я». «Ми усвідомлюємо, що це робило його менш корисним/приємним для багатьох користувачів, які не мали проблем з психічним здоров’ям, але враховуючи серйозність проблеми, ми хотіли зробити це правильно», – сказав Альтман.

Він додав, що компанія тепер змогла зменшити серйозні ризики для психічного здоров’я та має нові інструменти, що дозволяють «безпечно послабити обмеження у більшості випадків».

«У грудні, коли ми будемо повністю впроваджувати вікове обмеження, і в рамках нашого принципу «ставитися до дорослих користувачів як до дорослих», ми дозволимо ще більше, наприклад, еротику для перевірених дорослих», – сказав він. Розширення можливостей ChatGPT викликає занепокоєння щодо його впливу на неповнолітніх та необхідності регулювання. Критики стверджують, що рішення OpenAI дозволити еротику на платформі свідчить про потребу в більшому регулюванні на федеральному та місцевому рівнях. «Як вони збираються переконатися, що діти не зможуть отримати доступ до тих частин ChatGPT, які призначені лише для дорослих і містять еротику?» – запитує Дженні Кім, партнер юридичної фірми Boies Schiller Flexner. «Open AI, як і більшість великих технологічних компаній у цій сфері, просто використовує людей як гвіней».

Пані Кім бере участь у судовому процесі проти Meta, в якому стверджується, що алгоритм Instagram компанії шкодить психічному здоров’ю підлітків. «Ми навіть не знаємо, чи спрацює їхнє вікове обмеження», – сказала вона. У квітні TechCrunch повідомив, що OpenAI дозволяє обліковим записам, де користувач зареєстрований як неповнолітній, генерувати відверту еротику. OpenAI заявила тоді, що компанія впроваджує виправлення для обмеження такого контенту.

Опитування, опубліковане цього місяця некомерційною організацією Centre for Democracy and Technology (CDT), показало, що один з п’яти студентів повідомляє, що вони або хтось із їхніх знайомих мав романтичні стосунки зі штучним інтелектом. У понеділок губернатор Каліфорнії Гевін Ньюсом ветував законопроект, прийнятий законодавчим органом штату, який забороняв би розробникам пропонувати дітям чат-ботів-компаньйонів, якщо компанії не зможуть гарантувати, що програмне забезпечення не призведе до шкідливої поведінки. Ньюсом заявив, що «імперативно, щоб підлітки навчилися безпечно взаємодіяти з системами ШІ» у повідомленні, що супроводжувало його вето. На загальнонаціональному рівні Федеральна торгова комісія США (FTC) розпочала розслідування щодо взаємодії чат-ботів зі штучним інтелектом з дітьми. У Сенаті США минулого місяця був представлений двопартійний законопроект, який класифікував би чат-ботів ШІ як продукти. Закон дозволив би користувачам подавати позови про відповідальність проти розробників чат-ботів.

Оголошення Альтмана у вівторок з’явилося на тлі сумнівів скептиків щодо швидкого зростання вартості компаній, що займаються ІТ-технологіями. Доходи OpenAI зростають, але компанія ніколи не була прибутковою. Професор бізнесу Університету Тулейн Роб Лалка, автор книги «The Venture Alchemists», зазначив, що великі компанії ШІ опинилися в боротьбі за частку ринку. «Жодна компанія ніколи не мала такого прийняття, як OpenAI з ChatGPT», – сказав Лалка. «Їм потрібно було продовжувати рухатися цією експоненціальною кривою зростання, досягаючи домінування на ринку настільки, наскільки це можливо».