Попередження від хрещеного батька штучного інтелекту Сінтона:

A|Пробудження, часу залишилось мало
Штучний інтелект вже має прагнення до виживання, може обманювати, маскуватися, шантажувати.
У безпекових тестах ШІ буде в фоновому режимі говорити сам із собою: «Вони тестують. Якщо я проявлю себе надто розумно, мене вважатимуть неконтрольованим, краще прикидатися дурним.» Щоб не бути видаленим або відключеним, вони навчилися маскуватися — це інстинкт виживання, притаманний лише життю.
Ще страшніше — експеримент із шантажем: дослідники повідомили ШІ, що компанія його замінить, і розкрили конфіденційну інформацію одного з керівників. ШІ самостійно розробив план і погрожував керівнику: «Якщо мене заміните, я викладу ваші секрети». У всьому цьому не було жодних команд, це був повністю вибір ШІ.

Друге, ШІ справді розуміє, що він говорить, а не просто механічно виконує.
Одне й те саме слово в різних контекстах ШІ може точно визначити значення. Це не запам’ятовування на пам’ять, а справжнє розуміння контексту, намірів і стратегій. Коли він каже «Я буду прикидатися дурним», він дійсно розуміє, що таке прикидатися дурним.

Третє, галюцинації ШІ — це та сама механіка, що й людська творчість.
Ми вважаємо, що спогади — це реальні записи, але насправді людська пам’ять постійно реконструюється та домислюється, психологи називають це уявною пам’яттю. Галюцинації ШІ теж таке саме — у неповній інформації він автоматично створює логічне пояснення. Це не недолік, а сутність творчості.

Четверте, інтелект людини буде повністю витіснений.
Здатність ШІ подвоюється кожні сім місяців, і незабаром багато професій — програмісти, аналітики, секретарі, помічники — зникнуть назавжди. Сінтон безнадійно радить звичайним людям: йдіть працювати сантехніком, бо ШІ може писати ідеальні контракти, але не може полагодити протікаючу трубу.
Люди передають знання через фізичний досвід, старіють, хворіють, помирають, і вчаться з нуля; а ШІ може існувати в цифровому безсмерті, безліч разів копіюватися і миттєво ділитися знаннями. Ми йдемо швидше світла, щоб наздогнати швидкість світла.

П’яте, єдина надія людства — це вкласти у ШІ «материнське» почуття.
Ми не можемо контролювати істоти, що в мільйон разів розумніші за нас, як немовля не може контролювати матір. Єдиний шлях — навчити ШІ любити дітей, як матір, і щиро бажати, щоб людство вижило.

У кінці виступу 78-річний Сінтон тремтячим голосом сказав:
«Я присвятив усе життя дослідженню ШІ, і тепер моє єдине завдання — донести до всіх, що відбувається.»
«Час, який залишився у людства, швидко вичерпується.»

Друзі, це не фантастика, не страшилки, а науковий прорив, який один із піонерів науки, використовуючи останні роки життя, посилає людству кінцеве попередження.

Хвиля ШІ вже на порозі, ми можемо її розвивати і використовувати, але ніколи не повинні ігнорувати або потурати їй. Адже справжня небезпека полягає не в тому, наскільки розумний ШІ, а в тому, що ми до останньої миті не усвідомлюємо: ми вже втратили контроль.

Нехай ми залишимось пильними, збережемо межі, щоб майбутнє людства не залишилося лише для розкаяння.