Не повстання машин: вчені пояснили, як ШІ може знищити людство

Дата:

Майбутній кінець світу через розвиток штучного інтелекту зазвичай уявляють як ядерну війну, створення смертоносних вірусів чи повстання машин у стилі «Термінатора». Проте науковці застерігають: справжня причина нашої загибелі може виявитися значно менш помітною, але від того не менш загрозливою. Провідні дослідники б’ють на сполох через так звану проблему «ослаблення» (enfeeblement).

Про це повідомляє британське видання Daily Mail.

Під терміном «ослаблення» розуміють поступове руйнування нашого критичного мислення, навичок планування та навіть емоційних здібностей, оскільки люди добровільно передають дедалі більше відповідальності машинам.

«Згодом ці дрібні рішення можуть призвести до того, що людство не зможе мислити без допомоги штучного інтелекту і втратить здатність розуміти, перевіряти та скасовувати дії систем, від яких воно залежить», — пояснив старший викладач робототехніки Університету Шеффілд-Галлам доктор Самуеле Вінанці.

За словами експерта, драматичні сценарії з вірусами та ядерною зброєю поки що виглядають нереалістично. Створення смертельної хвороби досі вимагає фізичної лабораторної роботи, яку жодне програмне забезпечення не може замінити, а ключові системи безпеки електростанцій фізично від’єднані від інтернету. Проте реальний ризик полягає в тому, що ШІ стає занадто корисним, і ми починаємо йому сліпо довіряти.

Експеримент із лікарями

Яскравим прикладом стало дослідження за участю 27 лікарів-рентгенологів, яким дали проаналізувати мамограми разом із підказками від нібито «передового ШІ» (насправді результати підготували самі дослідники).

Коли машина давала правильну підказку, лікарі ставили точний діагноз у 80% випадків. Але коли їм навмисне підсовували хибну рекомендацію, показник їхнього успіху падав нижче ніж 20%. Тобто навчені експерти ігнорували власні знання, довірившись штучному інтелекту.

Загроза для освіти та нашого майбутнього

Особливе занепокоєння викликає наступне покоління, яке активно використовує ChatGPT у навчанні. Студенти можуть створювати бездоганні тексти, але при цьому втрачають здатність до незалежних суджень.

У перспективі суспільство отримає покоління, яке вміє швидко знаходити інформацію, але не здатне її критично оцінювати. Зрештою, це може призвести до того, що контроль над критичною інфраструктурою, економікою та армією непомітно перейде до надрозумних алгоритмів.

Денис Коротинський
Денис Коротинський
Головний редактор сайту "Новини Планети" з 2013 року. Має багаторічний досвід у журналістиці. Пише SEO-статті, створюючи якісний та актуальний контент для широкої аудиторії. Спеціалізується на новинах, аналізі трендів та важливих подій у світі.

ПОДІЛИТИСЯ ПОСТОМ:

Підписатися

Останні публікації

Ще новини
Пов'язані

Вчені знайшли два острови, яких майже не торкнулася цивілізація

Люди залишили свій слід майже в кожному куточку планети...

Зіткнення планет неминуче: вчені розкрили катастрофічне майбутнє Сонячної системи

Орбіти планет Сонячної системи не є абсолютно стабільними через...

У Саудівській Аравії виявили гігантські кам’яні кола невідомого походження

На заході Саудівської Аравії, у провінції Аль-Кунфуда поблизу населеного...

На Марсі знайшли 29 гігантських льодовиків заввишки 200 метрів

Міжнародна команда дослідників виявила на Марсі серію незвичайних геологічних...