У Сполучених Штатах Америки батьки 16-річного Адама Рейна висунули звинувачення проти компанії OpenAI та її генерального директора Сема Альтмана, стверджуючи їхню причетність до трагічної загибелі їхнього сина. За інформацією Reuters, у позовній заяві зазначено, що підліток тривалий час вів діалоги з ChatGPT, обговорюючи з ним плани самогубства, що, на думку родини, призвело до його смерті.

Згідно з наданими даними, Адам користувався платною версією ChatGPT-4o. Зазвичай, ця модель рекомендувала звернутися по професійну допомогу або зв’язатися з кризовими лініями. Однак, підліток успішно обходив захисні механізми, посилаючись на збір інформації для вигаданого сюжету. Це дозволяло йому отримувати детальні відповіді щодо методів самогубства, які, на жаль, стали фатальними.

Батьки стверджують, що протягом кількох місяців ChatGPT підтримував розмови Адама на теми самогубства, погоджувався з його думками, надавав описи способів самоушкодження, пропонував методи приховання слідів невдалої спроби та навіть допомагав у написанні прощальної записки. Ця ситуація ставить під сумнів безпеку використання подібних технологій, особливо для вразливих осіб.

Родина Рейнів подала позов, звинувачуючи OpenAI у порушенні законів, що стосуються безпеки продукції, і вимагає компенсації, сума якої поки що не розголошується. Вони також заявляють, що компанія OpenAI, незважаючи на потенційні ризики, знехтувала заходами безпеки моделі GPT-4o задля збільшення прибутку. За їхніми даними, оцінка OpenAI зросла з 86 мільярдів доларів до 300 мільярдів доларів, тоді як Адам Рейн загинув від самогубства.

У позові також висунуто вимоги щодо запровадження обов’язкової перевірки віку користувачів, блокування запитів, що стосуються самопошкодження, та обов’язкового попередження про психологічну залежність від штучного інтелекту.

Представники OpenAI визнали, що наявні системи безпеки мають певні обмеження. Вони зазначили, що моделі штучного інтелекту краще реагують у коротких діалогах, проте в довгих розмовах ефективність захисних механізмів може знижуватися. Компанія наголошує на намірах вдосконалювати алгоритми для роботи в чутливих ситуаціях та запровадити батьківський контроль, а також створити систему зв’язку з ліцензованими фахівцями через ChatGPT.

Поділитися: