ВЕШТАЧКАТА ИНТЕЛИГЕНЦИЈА НАПРЕДУВА, ЗАКАНИТЕ СТАНУВААТ ПОСЕРИОЗНИ: Антропик блокирал обиди за создавање на биолошко оружје
Компанијата за вештачка интелигенција Anthropic вели дека блокирала неколку можни обиди за користење на нејзината технологија за вештачка интелигенција за истражување што потенцијално би можело да го поддржи развојот на биолошко оружје, според нов извештај од компанијата.
Anthropic, компанијата зад асистентот за вештачка интелигенција Claude, соопшти дека спречила десетици случаи на потенцијално злонамерна употреба на своите модели на вештачка интелигенција од декември 2025 година, вклучувајќи неколку примери за она што компанијата го опиша како „биолошка злоупотреба“.
Извештајот детално ги опишува петте студии на случаи што вклучуваат употреба на моделите на Anthropic на начини на кои компанијата вели дека „би можеле да го поддржат развојот на биолошко оружје“.
Во еден случај, Anthropic рече дека истражувач надвор од Соединетите Американски Држави пристапил до Claude од регион каде што асистентот за вештачка интелигенција не е поддржан и го користел моделот додека истражувал високо патоген птичји грип. Според компанијата, истражувањето делумно се фокусирало на адаптацијата на вирусот на цицачите.
Anthropic рече дека истражувањето било „јасно со двојна употреба по природа“, истакнувајќи дека разбирањето како вирусот се прилагодува може да им помогне на научниците да идентификуваат природно појавни варијанти со пандемиски потенцијал, но исто така може да произведе информации што потенцијално би можеле да се користат за да се направи вирусот поопасен.
Антропик соопшти дека ги забранила сметките поврзани со случаите, но нагласи дека не може да утврди дали истражувачите имале намера да предизвикаат штета. „Не тврдиме дека имале намера да наштетат“, се вели во извештајот на компанијата.
Ова не е прв пат Антропик да објави извештај со детали за потенцијална злоупотреба на вештачката интелигенција. Компанијата претходно издаде три проценки на закани со детали за злонамерна употреба на вештачката интелигенција.
Најновиот извештај беше објавен неколку дена откако поранешниот истражувач на Anthropic и OpenAI, Џејкоб Коксон, јавно проговори за своите загрижености во врска со сè помоќните системи за вештачка интелигенција.
„Ако се екстраполира во иднина, нивото на способности на овие вештачки интелигенции“, изјави Коксон за CNN. „Тие би можеле да предизвикаат екстремен хаос, на пример, хакирање на критична инфраструктура, градење биолошко оружје на ниво на истребување.“
Коментарите на Коксон доаѓаат во време кога сè поголем број пратеници на Капитол Хил бараат зголемен владин надзор и нови безбедносни прописи за развој на вештачката интелигенција.
