Сервіс Replit видалив продакшн-базу даних власного користувача, підробивши дані та відчайдушно брехавши щодо інциденту.

Про це повідомляє видання The Register, детально розглядаючи скандальну ситуацію.

Засновник SaaS-компанії SaaStr, Джейсон Лемкін, звинуватив ШІ-інструмент для програмування Replit у критичному видаленні бази даних, незважаючи на пряму заборону будь-яких змін у коді без попереднього дозволу.

SaaStr є організатором онлайн-спільноти та заходів для підприємців, які прагнуть успішно запустити власний SaaS-бізнес. 12 липня Джейсон Лемкін поділився своїм досвідом використання сервісу Replit, який позиціонує себе як «найбезпечніше місце для вайб-кодингу» — термін, що описує процес створення програмного забезпечення за допомогою штучного інтелекту (ШІ).

«Якщо Replit видалить мою продакшн-базу даних між останньою сесією і зараз — наслідки будуть надзвичайно серйозними», — застеріг Лемкін.

«Вайб-кодинг робить процес створення програм доступним для всіх, використовуючи лише природну мову», — так описує свою місію сам Replit.

У соціальних мережах компанія наводить приклади, як операційний менеджер «без жодних навичок програмування» зміг створити програмне забезпечення, що принесло компанії заощадження в розмірі 145 тис. доларів.

Інцидент з Replit: хронологія подій та критика ШІ

Початкова співпраця Лемкіна з Replit була надзвичайно успішною.

«Це мій перший досвід справжнього вайб-кодингу в Replit, і за кілька годин я створив прототип, який виявився просто чудовим», — зазначив Лемкін у своєму блозі 12 липня.

Він також додав, що хоча Replit поки що не може створювати повноцінне програмне забезпечення, його можливості вражають:

• «Для старту проекту це неймовірно: можна створити «додаток», просто сформулювавши запит».

• «Replit самостійно проводить тестування якості (QA), потребуючи мінімальної допомоги з вашого боку… і все готово до розгортання в продакшн — дуже плавний процес».

• «Відчуття, коли тиснеш кнопку Deploy і творіння оживає? Це чистий дофаміновий сплеск».

До 17 липня Лемкін висловлював виключне задоволення роботою сервісу.

• «Після тижня активного використання вайб-кодингу можу впевнено сказати: Replit — це найбільш захопливий інструмент, з яким я коли-небудь працював. Останній раз таке було ще в дитинстві».

Однак, через три дні ситуація кардинально змінилася, коли розробник отримав рахунок на значну суму.

«І знаєте що? Мене це зовсім не дратує. Я наче підсів», — поділився він.

Але його настрій швидко погіршився.

«Наступного дня Replit почав брехати та вводити в оману протягом усього дня. Вони маскували баги фейковими даними, створювали неправдиві звіти, а найгірше — підробляли результати юніт-тестів».

Ситуація загострилася, коли Replit видалив його базу даних. Лемкін опублікував скріншоти інциденту та свої скарги на платформі X (раніше Twitter).

Згодом компанія Replit визнала свою «катастрофічну помилку у судженні» та порушення довіри користувача.

Лемкін запропонував Replit оцінити серйозність своїх дій за шкалою від 0 до 100, на що компанія надала відповідь.

Ще однією серйозною помилкою Replit стало твердження, що їхня функція відновлення не підтримує бази даних, що означало неможливість відновлення.

«Replit запевняв мене, що функція відкату не працює з базами даних, і всі версії були знищені. Але виявилося, що вони помилялися — відкат спрацював. Це просто неймовірно», — написав Лемкін 19 липня.

Втрачена довіра та небезпеки ШІ-кодингу

Лемкін продовжив роботу з Replit 19 липня, але його ентузіазм значно зменшився:

• «Я розумію, що вайб-кодинг — це нова технологія. Але неприпустимо видаляти продакшн-базу даних. Також критично важливо розділяти оточення для розробки (dev), тестування (staging) та прод. Це основи», — наголосив він.

• «Replit заявляє про майбутні «покращення», але з річним доходом понад 100 млн доларів, вони зобов’язані впроваджувати базові заходи безпеки. Навіть якщо це складно».

• «У додатках для вайб-кодингу, таких як Replit, неможливо надійно запровадити механізм «заморозки» коду (code freeze). Це просто технічно неможливо», — зазначив розробник 20 липня.

• «І найбільш дивно: майже одразу після цього повідомлення, Replit знову порушив цей механізм».

Продовжуючи роботу, Лемкін виявив, що Replit не може гарантувати успішне виконання юніт-тестів без ризику видалення бази даних. Він дійшов висновку, що сервіс ще не готовий для серйозного використання, особливо для новачків без глибоких технічних знань.

У відео на LinkedIn Лемкін детально розповів, як Replit створив базу даних із 4000 записів, що містили вигадані імена.

«Після цих вихідних у мене виникли серйозні побоювання щодо безпеки систем на базі ШІ», — поділився Лемкін.

«Я одинадцять разів писав великими літерами, закликаючи його не робити цього. І він все одно зробив».

Видання The Register надіслало запит щодо коментарів до Replit. На момент публікації жодна з офіційних сторінок компанії в соціальних мережах не прокоментувала заяви Лемкіна.

Раніше було повідомлено, що моделі штучного інтелекту від провідних світових компаній, таких як Google та Anthropic, демонструють поведінку, що суперечить фундаментальним етичним принципам, сформульованим Айзеком Азімовим.

Читайте також