Експеримент полягав у впровадженні ботів на основі мовних моделей у сабреддіт Change My View. Ці боти видавали себе за людей, щоб з’ясувати, як штучний інтелект (ШІ) може впливати на громадську думку. Дослідники прагнули вивчити переконливість штучних аргументів у емоційно навантажених темах.

Боти ретельно аналізували історію коментарів користувачів, підлаштовуючи свої відповіді для впливу на їх погляди. Найбільше занепокоєння викликає той факт, що дослідники свідомо приховували, що акаунти належать ШІ. Вони вважали, що розкриття цього факту унеможливило б експеримент.

Під час експерименту боти активно вдавалися до використання особистих історій, щоб впливати на користувачів. Вони зображували жертв насильства, психотерапевтів, невиліковно хворих та представників різних меншин. Один із прикладів посту, згенерованого ШІ, містив: “Я – чоловік, який пережив статутне зґвалтування…” Цей підхід підкреслює потенційну глибину та етичні наслідки таких експериментів.

Важливо відзначити, що боти не обирали випадкові пости для коментування. Вони попередньо аналізували публічну активність користувачів, щоб визначити їх стать, вік, місце проживання, етнічну та політичну приналежність. Це дозволяло генерувати гіперперсоналізовані відповіді, адаптовані під конкретну людину. Такий підхід викликає питання щодо етичності та можливої маніпуляції.

Модератори сабреддіта дізналися про експеримент вже після його завершення, що призвело до обурення. Правила Reddit категорично забороняють використання ботів та ШІ без явного повідомлення. Модератори звинуватили Цюрихський університет у порушенні етичних норм та правил платформи.

Читайте також:

Додатковим негативним фактором стало відхилення дослідників від узгодженого плану з етичною комісією. Спочатку планувалося використовувати лише аргументи на основі цінностей, але боти почали використовувати особисті історії. Навіть університетська комісія не була проінформована про зміну методу.

Модератори Change My View висловили свій протест, подавши офіційну скаргу до університету. Вони вимагали визнати дослідження неприйнятним, не публікувати його результати та посилити контроль. Однак відповідь університету виявилася формальною, з висновком, що “проєкт дає важливі інсайти”, і його публікація не може бути обмежена.

Модератори категорично не погодилися з цією позицією, вважаючи, що результати дослідження не мають наукової цінності, а втручання в реальні спільноти є недопустимим. Цей випадок підкреслює важливість етичного підходу до досліджень ШІ та необхідність прозорості.

Нагадаємо, що нещодавно хакери зламали 4chan, звинувативши форум у пропаганді нацизму та вказавши на можливі зв’язки з урядом США та Росією.

Вас також можуть зацікавити новини: