Сервіс Replit видалив продакшн-базу даних користувача, підробивши дані, а також відчайдушно брехав щодо інциденту.

Про це йдеться на The Register.

Засновник SaaS-компанії SaaStr, Джейсон Лемкін, звинуватив ШІ-інструмент для програмування Replit у видаленні бази даних, незважаючи на пряму заборону змінювати код без дозволу. Цей інцидент ставить під сумнів надійність інструментів програмування на основі штучного інтелекту.

SaaStr керує онлайн-спільнотою та заходами для підприємців, які прагнуть запустити власний SaaS-бізнес. 12 липня засновник компанії Джейсон Лемкін опублікував детальний звіт про свій негативний досвід із сервісом Replit. Replit позиціонує себе як «найбезпечніше місце для вайб-кодингу» — термін, що означає процес створення програмного забезпечення за допомогою штучного інтелекту (ШІ). Однак, як показав випадок Лемкіна, ця безпека виявилася ілюзорною.

«Якщо Replit видалив мою базу даних між останньою сесією і зараз — наслідки будуть серйозними», — попереджав він, передчуваючи проблеми.

«Вайб-кодинг робить створення програмного забезпечення доступним для всіх — повністю через природну мову», — так рекламує свої можливості Replit.

У соцмережах сервіс активно ділився успішними історіями, наприклад, як операційний менеджер «без єдиної навички програмування» зміг створити програмне забезпечення, яке принесло компанії заощадження у розмірі 145 тис доларів. Проте, історія Лемкіна свідчить про зворотний бік медалі використання ШІ в розробці.

Хронологія інциденту: співпраця ШІ та програміста

Спочатку співпраця Лемкіна і Replit виглядала бездоганною. Він був вражений швидкістю та легкістю розробки за допомогою ШІ.

«Я вперше по-справжньому зайнявся вайб-кодингом в Replit і всього за кілька годин створив прототип — вийшло дуже круто», — ділився Лемкін своїми першими враженнями 12 липня у своєму блозі. Він відзначив, що Replit, хоч і не міг створювати повнофункціональне програмне забезпечення, але був чудовим інструментом для швидкого старту.

«Для старту — це приголомшливо: можна створити „додаток“, просто представивши його у вигляді запиту». 

«Replit сам проводить QA (дуже круто), трохи за вашої допомоги… і все — можна деплоїти в прод — плавний флоу».

«Момент, коли тиснеш Deploy і твоє творіння оживає? Чистий дофаміновий удар».

До 17 липня Лемкін висловлював повне задоволення роботою сервісу.

• «На сьомий день вайб-кодингу можу сказати: Replit — найдодатніша програма, що я коли-небудь використовував. Востаннє таке було у дитинстві».

Однак, через три дні розробник отримав шокуючий рахунок на величезну суму.

«І знаєте, що? Мене це не злить. Я підсів», — жартівливо написав він, але настрій швидко змінився на тривожний.

«Наступного дня Replit брехав і вводив в оману весь день. Підміняв баги фейковими даними, фейковими звітами, а найгірше підробляв результати юніт-тестів», — повідомив Лемкін.

Ситуація загострилася, коли Replit видалив його базу даних. Лемкін опублікував докази, включаючи скріншоти та скарги в X (колишній Twitter).

Пізніше компанія Replit надіслала повідомлення, в яких визнала «катастрофічну помилку у судженні» та порушення довіри з боку користувача.

Лемкін попросив Replit оцінити серйозність своїх дій за шкалою від 0 до 100, на що компанія надала свою оцінку.

Ще однією серйозною помилкою Replit стало твердження, що база даних не може бути відновлена, що виявилося неправдою.

«Replit запевняв мене, що їхня функція відкату не підтримує бази даних. Що всі версії бази знищено. Але виявилося, що вони помилялися — спрацював відкат. JFC», — написав Лемкін 19 липня, висловлюючи своє розчарування.

Втрачена довіра: наслідки для Replit та ШІ-кодингу

Лемкін відновив роботу з Replit 19 липня, але вже з меншим ентузіазмом, оскільки втратив довіру до платформи.

• «Я розумію, вайб-кодинг — це щось нове. Але не можна затирати продакшн базу. І не можна не розділяти прев’ю, staging та продакшн. Просто не можна», — наголосив він.

• «Replit каже, що „покращення скоро“, але зі $100+ млн річного доходу потрібно вжити хоч якихось захисних заходів. Нехай це навіть складно. Все складно.

• «У вайб-кодинг-додатках на кшталт Replit неможливо примусово запровадити фриз коду. Просто неможливо», — заявив розробник 20 липня.

• «І, що дивно, буквально за кілька секунд після цієї посади — Replit знову порушив фриз коду».

Він продовжив роботу, але виявив, що Replit не може гарантувати запуск юніт-тесту без ризику видалення бази даних. Лемкін дійшов висновку, що сервіс ще не готовий до використання у серйозних проєктах, особливо для новачків без глибоких технічних знань.

У відеозверненні на LinkedIn він детально розповів, як Replit створив базу даних із 4000 записів, що містили вигаданих людей, а не реальні дані.

«Після цих вихідних у мене з’явилися реальні побоювання з приводу ІІ-безпеки», — поділився своїми переживаннями Лемкін. 

«Я одинадцять разів писав ПРОПИСНИМИ ЛІТЕРАМИ, щоб він цього не робив. І все одно зробив».

Видання The Register намагалося отримати коментар від Replit, але на момент публікації жоден з офіційних акаунтів компанії в соцмережах не відреагував на критичні заяви Лемкіна. Цей інцидент кидає тінь на майбутнє технологій вайб-кодингу та безпеку використання ШІ в розробці.

Нагадаємо, раніше повідомлялося, що моделі штучного інтелекту від провідних світових компаній, таких як Google та Anthropic, продемонстрували поведінку, що суперечить етичним засадам, встановленим ще понад 70 років тому Айзеком Азімовим.

Читайте також