Індійська Instagram-сенсація Бабідол Арчі за кілька днів подвоїла свою аудиторію до 1,4 мільйона підписників завдяки кільком вірусним моментам у соціальних мережах. Один з них — відео, де вона танцює у червоному сарі під румунську пісню “Dame Un Grr”. Інший — фото з американською зіркою фільмів для дорослих Кендрою Ласт.

Раптом усі захотіли дізнатися про неї більше. Ім’я Бабідол Арчі стало трендом у пошуку Google, породивши безліч мемів та фан-сторінок. Однак виявилася одна проблема: за цим онлайн-феноменом не стояло справжньої людини.

Виявилося, що акаунт в Instagram був фейковим, хоча зображення нагадувало реальну жінку — домогосподарку з міста Діброгарх, штат Ассам, яку ми назвемо Санчі. Правда розкрилася після того, як її брат подав заяву до поліції. Притім Бора, колишній хлопець Санчі, був заарештований. Старший офіцер поліції Сізал Агарвал, яка очолює розслідування, повідомила, що Санчі та Бора посварилися, і Бора створив її AI-образ з метою “чистої помсти”.

За словами Агарвал, Бора — інженер-механік та самоук у сфері штучного інтелекту (AI) — використав особисті фотографії Санчі для створення фейкового профілю. Бора перебуває під вартою і поки не робив жодних заяв. Його сім’я була проінформована.

Акаунт Бабідол Арчі було створено у 2020 році, а перші завантаження з’явилися у травні 2021 року. Початкові фотографії були реальними знімками Санчі, які були модифіковані. З часом Бора використовував інструменти, такі як ChatGPT та Dzine, для створення AI-версії, а потім наповнював акаунт діпфейк-фото та відео.

Акаунт почав набирати лайки з минулого року, але активний ріст розпочався з квітня цього року. Двосторінкова скарга до поліції, подана родиною Санчі 11 липня, містила роздруківки деяких фото та відео як доказ. Поліція не мала інформації про винуватця, тому в скарзі ніхто не згадувався.

Бабідол Арчі вже була відома поліції. Агарвал зазначила, що вони бачили повідомлення у ЗМІ та коментарі, що припускали AI-генерацію, але не було натяків на використання реальної особи. Після отримання скарги поліція звернулася до Instagram за деталями про творця акаунту.

«Коли ми отримали інформацію від Instagram, ми запитали Санчі, чи знає вона Притима Бору. Після її підтвердження ми встановили його адресу в сусідньому районі Тінсукія. Ми заарештували його ввечері 12 липня». Поліція вилучила його ноутбук, мобільні телефони, жорсткі диски та банківські документи, оскільки він монетизував акаунт. Акаунт мав 3000 підписок на Linktree, і, за оцінками, він заробив на ньому 1 мільйон рупій, з яких 300 000 рупій — за п’ять днів до арешту.

Санчі перебуває у стані сильного стресу, але зараз вона та її родина отримують психологічну допомогу і почуваються краще. За словами Агарвал, запобігти подібним випадкам повністю неможливо, але якби діяли раніше, вдалося б уникнути такого поширення. Санчі не мала жодного уявлення про це, бо не користується соціальними мережами, і її родина була заблокована з цього акаунту. Вони дізналися про це лише після того, як все стало вірусним.

Meta не відповіла на запити щодо справи, але зазвичай не дозволяє публікацію наготи чи сексуального контенту. Минулого місяця повідомлялося, що компанія видалила рекламу AI-інструментів, які використовувалися для створення відвертих діпфейків із зображеннями реальних людей.

Бабідол Арчі не була незнайомою поліції. Агарвал каже, що вони бачили репортажі та коментарі, які припускали, що вона була згенерована AI, але не було жодних натяків на те, що вона базувалася на реальній особі. Отримавши скаргу, поліція звернулася до Instagram із запитом на надання інформації про творця акаунту.

«Коли ми отримали інформацію від Instagram, ми запитали Санчі, чи знає вона Притима Бору. Після її підтвердження ми встановили його адресу в сусідньому районі Тінсукія. Ми заарештували його ввечері 12 липня». Агарвал каже, що поліція «вилучила його ноутбук, мобільні телефони та жорсткі диски, а також банківські документи, оскільки він монетизував акаунт».

«Акаунт мав 3000 підписників на Linktree, і ми вважаємо, що він заробив на ньому 1 мільйон рупій. Ми вважаємо, що він заробив 300 000 рупій всього за п’ять днів до свого арешту», — додала вона. Агарвал каже, що Санчі «дуже засмучена — але тепер вона та її родина отримують психологічну допомогу, і їм стає краще».

«Насправді немає способу запобігти такому, але якби ми діяли раніше, ми могли б запобігти такому великому розголосу», — сказала Агарвал. «Але Санчі не мала жодного уявлення, оскільки вона не має присутності в соціальних мережах. Її родина також була заблокована з цього акаунту. Вони дізналися про це лише тоді, коли це стало вірусним», — додала вона.

Meta не відповіла на запити BBC щодо справи, але загалом не дозволяє публікацію наготи чи сексуального контенту. А минулого місяця CBS повідомила, що видалила низку оголошень, які рекламували AI-інструменти, що використовувалися для створення сексуально відвертих діпфейків із зображеннями реальних людей.

Акаунт Бабідол Арчі в Instagram, який мав 282 публікації, більше не доступний для громадськості — хоча соціальні мережі рясніють її фотографіями та відео, а один акаунт в Instagram, здається, має їх усі. BBC запитала Meta, що вони планують робити з цим.

Мегна Баль, експерт з AI та юрист, каже, що те, що сталося з Санчі, «жахливо, але майже неможливо запобігти». Вона може звернутися до суду та вимагати права на забуття, і суд може наказати видалити повідомлення в пресі, які згадували її, але важко стерти всі сліди з Інтернету.

Те, що сталося з Санчі, каже вона, це те, що завжди відбувалося з жінками, коли їхні фотографії та відео поширювалися як помста. «Зараз це набагато легше зробити завдяки AI, але такі випадки все ще не такі поширені, як ми очікуємо — або вони можуть бути занижені через стигму, або люди, які стають мішенню, можуть навіть не знати про це, як у цьому випадку», — каже Баль. І люди, які це бачили, не мали стимулу повідомляти про це платформі соціальних мереж або порталу кіберзлочинності, додає вона.

У своїй скарзі проти Бори поліція застосувала статті закону, що стосуються сексуального домагання, розповсюдження непристойних матеріалів, наклепу, підробки з метою нанесення шкоди репутації, шахрайства шляхом видачі себе за іншу особу та кіберзлочинності. Якщо його визнають винним, Бора може отримати до 10 років ув’язнення.

Справа, яка також викликала обурення в соціальних мережах останніми днями, призвела до закликів посилити законодавство для боротьби з такими випадками. Баль вважає, що існують достатні закони для вирішення таких справ, але потрібно розглянути, чи є простір для нових законів, що стосуються компаній, які займаються генеративним AI.

«Але ми також повинні пам’ятати, що діпфейки не обов’язково погані, і закони мають бути ретельно розроблені, оскільки вони можуть бути використані для придушення свободи слова».

Слідкуйте за BBC News India в Instagram, YouTube, X та Facebook