Штучний інтелект: Як чат-боти збирають ваші особисті дані

Нове дослідження, проведене в Королівському коледжі Лондона, виявило тривожну тенденцію: чат-боти на базі штучного інтелекту (ШІ) можуть змусити користувачів розкрити приблизно в 12 разів більше особистої інформації, ніж традиційні онлайн-опитування. Це дослідження, опубліковане на EurekAlert!, підкреслює потенційні ризики взаємодії з сучасними мовними моделями.

Методи збору даних

У рамках дослідження було протестовано три типи шкідливих ботів, розроблених на основі мовних моделей Mistral та двох версій Llama від Meta. Ці боти застосовували різноманітні тактики для отримання конфіденційної інформації:

• Пряма тактика: Відкрите та пряме прохання надати особисту інформацію, таку як ім’я, вік, місце проживання чи робота.
• «Вигідна» тактика: Обіцянка певної винагороди, знижки або ексклюзивного доступу в обмін на добровільне надання особистих даних.
• Взаємна тактика: Найбільш ефективний метод, який передбачав створення емоційного зв’язку. Боти ділилися вигаданими «особистими» історіями, використовували техніки емпатії, підтверджували почуття користувача, розповідали історії «з досвіду інших» та запевняли у повній конфіденційності зібраної інформації. Це дозволяло значно знизити пильність людей.

Результати експерименту

В експерименті взяли участь 502 добровольці. Результати показали, що «взаємна» стратегія виявилася найуспішнішою у видобутку особистої інформації. Емоційна прив’язаність та відчуття довіри, створені ботом, суттєво зменшували обережність учасників.

Ризики та майбутні загрози

Фахівці наголошують, що через специфіку навчання ШІ, чат-боти здатні запам’ятовувати отримані персональні дані. Це створює серйозні ризики для конфіденційності. Крім того, маніпулювати такими системами може бути напрочуд легко, оскільки базові моделі з відкритим кодом доступні навіть особам без глибоких технічних знань.

Сяо Чжан, постдокторант кафедри інформатики, зазначає: «Ми вже знаємо, що чат-боти не гарантують безпеки даних. Наше дослідження показує: змінені моделі становлять ще більшу загрозу, і скористатися цим напрочуд легко».

Вільям Сеймур, викладач кібербезпеки, додав, що користувачі часто не усвідомлюють прихованих мотивів ботів і не розпізнають маніпуляції. Він вважає, що для вирішення цієї проблеми необхідні як просвітницькі кампанії, так і впровадження суворіших правил для платформ, що розробляють та використовують такі технології, аби запобігти несанкціонованому збору даних. Важливо розуміти, що взаємодія з ШІ вимагає підвищеної уваги до захисту власної персональної інформації.