Індійська інфлюенсерка з Instagram, на ім’я Babydoll Archi, за кілька днів подвоїла свою аудиторію до 1,4 мільйона підписників завдяки кільком вірусним моментам у соціальних мережах. Один з них — відео, де вона в червоному сарі спокусливо танцює під румунську пісню «Dame Un Grr». Інше — фото, на якому вона позує з американською зіркою фільмів для дорослих Кендрою Ласт. Раптом усі захотіли дізнатися про неї більше — ім’я Babydoll Archi стало трендом у Google, з’явилися численні меми та фан-сторінки. Але незабаром виявилася одна проблема — за цим онлайн-феноменом не було реальної людини. Instagram-акаунт виявився фейковим, хоча використане обличчя разюче нагадувало реальну жінку — домогосподарку з міста Діброгарх, штат Ассам, яку ми назвемо Санчі.

Правда розкрилася після того, як її брат подав заяву до поліції. Пратім Бора, колишній хлопець Санчі, був заарештований. Старший офіцер поліції Сізаль Агарвал, яка очолює розслідування, повідомила, що Санчі та Бора посварилися, і створений ним образ ШІ (штучного інтелекту) був актом «чистої помсти» проти неї. За словами Агарвал, Бора, інженер-механік і самовчений ентузіаст ШІ, використав приватні фотографії Санчі для створення фейкового профілю. Бора перебуває під вартою і поки не робив жодних заяв. Індійське відділення BBC намагалося зв’язатися з його родиною для коментарів.

Babydoll Archi був створений у 2020 році, а перші публікації з’явилися у травні 2021 року. Початкові фотографії були реальними знімками Санчі, які були відредаговані. З часом Бора використовував інструменти, такі як ChatGPT та Dzine, для створення версії на основі ШІ. Потім він наповнив акаунт діпфейк-фото та відео. Зростання популярності акаунту почалося минулого року, але справжній стрибок відбувся у квітні цього року. Коротка заява до поліції, подана родиною Санчі ввечері 11 липня, містила роздруківки деяких фотографій та відео як доказ. Агарвал зазначила, що в заяві нікого не називали, оскільки вони не мали уявлення, хто може стояти за цим.

Babydoll Archi був не незнайомим ім’ям для поліції. Агарвал розповіла, що вони бачили повідомлення у ЗМІ та коментарі, які припускали, що це ШІ-генерація, але не було жодних натяків на те, що це базується на реальній людині. Після отримання заяви поліція написала до Instagram з проханням надати інформацію про творця акаунту. «Щойно ми отримали інформацію від Instagram, ми запитали Санчі, чи знає вона когось на ім’я Пратім Бора. Коли вона підтвердила, ми знайшли його адресу в сусідньому районі Тінсукія. Ми заарештували його ввечері 12 липня», — повідомила Агарвал. За її словами, поліція «вилучила його ноутбук, мобільні телефони та жорсткі диски, а також банківські документи, оскільки він монетизував акаунт». «Акаунт мав 3000 підписників на Linktree, і ми вважаємо, що він заробив на ньому 1 мільйон рупій. Ми вважаємо, що він заробив 300 000 рупій лише за п’ять днів до свого арешту», — додала вона.

Агарвал зазначила, що Санчі «надзвичайно засмучена, але тепер вона та її родина отримують психологічну підтримку і їм краще». «Немає справді жодного способу запобігти подібному, але якби ми діяли раніше, ми могли б запобігти такому поширенню», — сказала Агарвал. «Але Санчі не мала жодного уявлення, оскільки вона не має присутності в соціальних мережах. Її родина також була відрізана від цього акаунту. Вони дізналися про це лише після того, як він став вірусним», — додала вона. Meta не відповіла на запити BBC щодо цієї справи, але загалом вона не дозволяє публікацію оголеного контенту чи сексуального контенту. Минулого місяця один із ресурсів повідомляв, що Meta видалила низку оголошень, що рекламували інструменти ШІ, які використовуються для створення відвертих діпфейків із зображеннями реальних людей.

Instagram-акаунт Babydoll Archi, який містив 282 пости, більше недоступний для загального доступу, хоча соціальні мережі рясніють її фотографіями та відео, а один Instagram-акаунт, схоже, має їх усі. BBC звернулося до Meta з запитанням, що вони планують робити щодо цього. Мегна Баль, експерт з ШІ та юрист, каже, що те, що сталося з Санчі, «жахливо, але майже неможливо запобігти». Вона може звернутися до суду і вимагати «права на забуття», і суд може наказати видалити повідомлення, що називали її ім’я, але важко стерти всі сліди з Інтернету. Те, що сталося з Санчі, за її словами, — це те, що завжди відбувалося з жінками, чиї фотографії та відео поширювалися як помста. «Зараз це набагато легше робити завдяки ШІ, але такі випадки все ще не такі поширені, як ми очікуємо, або вони можуть бути недоінформованими через стигму, або постраждалі особи можуть навіть не знати про це, як у цьому випадку», — каже Баль. І люди, які це бачили, не мали стимулу повідомляти про це платформі соціальних мереж або порталу кіберзлочинності. У своїй скарзі на Бору поліція застосувала статті закону, що стосуються сексуальних домагань, розповсюдження непристойних матеріалів, наклепу, підробки з метою нашкодити репутації, шахрайства шляхом видачі себе за іншу особу та кіберзлочинності. Якщо його визнають винним, Бора може отримати до 10 років позбавлення волі. Справа, яка також викликала обурення в соціальних мережах останніми днями, спонукала деяких вимагати суворіших законів для вирішення подібних випадків. Баль вважає, що існує достатньо законів, щоб впоратися з такими випадками, але чи є простір для нових законів, що регулюють компанії, які займаються генеративним ШІ, ще потрібно розглянути. «Але ми також повинні пам’ятати, що діпфейки не обов’язково є поганими, і закони повинні бути ретельно розроблені, оскільки їх можна використовувати як зброю, щоб обмежити свободу слова».