Експерти предупредуваат: Вештачката интелигенција носи пет сериозни ризици

Група од 272 експерти од 37 земји предупредуваат дека развојот на вештачката интелигенција носи ризици кои во одредени сценарија би можеле да предизвикаат катастрофални последици.

Истражувањето, во кое учествувале експерти од технологијата, науката, владините институции и граѓанскиот сектор, идентификува пет клучни области на ризик.

Меѓу нив се опасните способности на AI, употребата на технологијата за сајбер-напади и оружје, жестоката конкуренција во развојот на AI, концентрацијата на моќта кај мал број компании и создавањето и ширењето на убедливи лажни информации.

Експертите проценуваат дека секој од овие ризици, дури и со одредени безбедносни мерки, може да има повеќе од 10 отсто веројатност за катастрофален исход. Под „катастрофален“ се подразбираат последици со огромни човечки или економски размери.

Особено чувствителни се секторите како информатичката технологија, финансиите и националната безбедност. Меѓу можните сценарија се злоупотреба на AI за напади врз компјутерски системи, развој на опасни технологии и автономно оружје.

Истражувачите сметаат дека одговорноста не е само кај компаниите што ги развиваат најмоќните модели. Владите и регулаторите, според нив, ќе мора да воспостават појасни правила и механизми за контрола.

Пораката од студијата е дека брзиот напредок на вештачката интелигенција мора да биде проследен со сериозни инвестиции во безбедноста, транспарентноста и одговорното користење на технологијата.