Ядровий апокалипсис хавфи: сунъий интеллект назоратдан чиқиши мумкин

Сунъий интеллект (СИ) ривожи ядровий хавфсизликка жиддий зарба бериши мумкин, дея огоҳлантиради Foreign Affairs.

Мутахассислар фикрича, энг катта хатар — ядровий зарба бериш ҳақида қарор қабул қилиш ҳуқуқини машиналарга топшириш ғоясидир.

АҚШда аллақачон охирги қарор инсон қўлида қолишини кафолатловчи қоидалар жорий этилган. Хитой раҳбари Си Цзиньпин ҳам сунъий интеллектга ядровий қуролни ишониб топшириб бўлмаслигини таъкидлаган.

Бироқ таҳдид анча олдин пайдо бўлган. Бугун СИ ядровий давлатлар раҳбарларини дипфейклар — сохта, аммо ишончли аудио, фото ва видеолар орқали чалғитиш имкониятига эга.

Бундай фейк мавжуд бўлмаган ҳужумни “кўрсатиб”, нотўғри қарор қабул қилинишига олиб келиши мумкин. СИ урушни қўзғатиши ёки кенг кўламли беқарорликни юзага келтириши эҳтимоли бор. Нейротармоқлар ривожи билан видео сифати шундай даражага етадики, уни аслидан ажратиш деярли имконсиз бўлади.

Яна бир муаммо — СИ хатолари ва “галлюцинациялари”. Агар уни эрта огоҳлантириш тизимларига улашса, машина ёлғон сигнал бериши мумкин. Ядровий соҳада эса бундай хатонинг баҳоси миллионлаб инсон ҳаёти билан боғлиқ.

Г.Холдорова тайёрлади.