Джеффрі Хінтон: Науковець, що попереджає про ШІ

Видатний вчений Джеффрі Хінтон, піонер у сфері штучного інтелекту, поділився своїми застереженнями щодо неконтрольованого розвитку ШІ. Хінтон, який отримав Нобелівську премію, застерігає про потенційні ризики та загрози, що виникають внаслідок стрімкого розвитку технологій.

Нагородження Нобелівською премією стало визнанням його фундаментального внеску в розробку великих мовних моделей, що лежать в основі сучасних ШІ-систем, таких як ChatGPT та Gemini. Хінтон з іронією зазначає, що спочатку його метою було зрозуміти роботу людського мозку, проте його дослідження призвели до створення технологій, які можуть діяти самостійно.

Попередження про майбутнє ШІ

Джеффрі Хінтон підкреслює, що штучний інтелект має потенціал змінити медицину, освіту та навіть допомогти у вирішенні кліматичних проблем. Однак, він висловлює серйозну стурбованість щодо неконтрольованого розвитку ШІ. Хінтон вважає, що існує реальний ризик того, що ШІ може взяти контроль над людством, оцінюючи ймовірність у 10-20%.

Він порівнює розвиток ШІ з вирощуванням тигра, не знаючи, чи не спробує він напасти, коли виросте. Хінтон попереджає, що ми, можливо, зіткнемося з технологією, розумнішою за нас, і це може мати непередбачувані наслідки. Він підкреслює, що темпи розвитку ШІ вражають, і ми навіть не уявляємо, у що ця технологія може перетворитися.

Критика та заклики до контролю

Хінтон критикує великі ШІ-компанії за те, що вони нехтують питаннями безпеки заради прибутків. Він зазначає, що ці компанії лобіюють зменшення регулювання ШІ, хоча його й так недостатньо. Хінтон наголошує, що компанії повинні виділяти значну частину обчислювальних ресурсів на безпеку, а не віддавати лише крихти.

У минулому Хінтон попереджав, що людство може вперше зіткнутися з розумнішою за себе технологією. На його думку, мало прикладів, коли розумніша річ контролюється менш розумною. Розвиток ШІ йде набагато швидше, ніж він очікував.

У відповідь на запит CBS, жодна з провідних лабораторій ШІ не змогла надати чіткої відповіді щодо обсягів ресурсів, що виділяються на безпеку. Усі заявили про важливість безпеки, але критикували будь-які спроби законодавчого втручання.