Лажни извори, измислени цитати и „халуцинации“ во извештаите: Темната страна на ВИ револуцијата и влијанието врз работењето

Многу компании, консултантски куќи и истражувачи се потпираат на вештачката интелгенција за поефикасно да креираат текстови. Меѓутоа, тоа носи одредени ризици: т.н. халуцинации предизвикуваат грешки, за што потврдуваат бројни неодамнешни случаи. Вештачката интелигенција може да биде корисна за генерирање идеи, истражување, резимирање, формулација на текстови или програмирање. Сепак, ВИ моделите носат и ризици и можат да прават грешки.

На пример, неодамнешниот извештај на консултантската куќа KPMG, кој се бавел со глобална примена на вештачката интелигенција во компаниите, содржел студии на случај базирани на т.н. халуцинации, објавил Financial Times, повикувајќи се на Tagesschau.

Според истражувањето на Европската радиодифузна унија (EBU), дури 45 % од одговорите на чатботовите во октмоври 2025 година содржале значајни недостатоци – било во точноста, наведувањето на извор, контекстот или разликувањето на факти од мислења.

Од тогаш многу јазични модели значајно се унапредиле, но грешки и понатаму се можни. Освен халуцинации, одговорите на вештачката интелигенција за актуелни теми можат да бидат застарени бидејќи чатботовите, во зависност од поставките, тренираат и на постари податоци.

Исто така, понекогаш некритички преземаат дезинформации од интернет или погрешно им ги препишуваат процените на изворите. Дополнителен проблем се и самите извори кои ги користат, бидејќи се’ почесто се генерирани со помош на ВИ.

Истражувачите од Империјалниот Колеџ во Лондон, Универзитетот Стенфорд и организацијата Internet Archive неодамна го анализирале интернетот од тој агол. Заклучиле дека до средината на 2025 година околу 35 % новообјавените веб страни биле калсифицирани како содржина генерирана или делумно потпомогната од вештачката интелигенција.

Поради тоа извштајот на KPMG не е изолиран случај. Според медиумските наводи, слична ситуација неодамна се случила и во EY Канада, каде консултансткиот тим изработил студија чии извори, идентификувани со помош на ВИ, биле неточни.

Непостоечки извори и цитати

И Deloitte во Австралија минатата година морал да ја исправа анализата на програмата за социјлна заштита, бидејќи содржела непостоечки извори и цитати. Особено проблематично било тоа што анализата била правена за Министерство за труд и вработување.

Фактот дека такви ситуации се јавуваат токму во деловното и политичкото советување не е случаен. При ИТ секторот, консултантската индустрија се смета за една од областите која вештачката интелигенција најмногу ја менува.

„Гледаме дека овој сектор користи вештачка интелигенција над просекот, и формално кога ќе ја воведат работодавачите, и неформално кога ја користат самите вработени“, објаснува Оливер Шленкер, заменик раководител на одделениот во ifo Центарот за социјална пазарна економија и институционална економија. Станува збор за сектор во кој бесплатно достапните ВИ модели можат многу ефикасно да ги обавуваат рутинските задачи, како прибирањето на информации и изработка на документи.

Потребна е критичка проверка

„На прв поглед изгледа дека постојат огромни добивки во продуктивноста бидејќи извештајот за кој претходно биле потребни две недели сега може да се напише доста брзо. Меѓутоа, тоа не значи автоматски дека работата е квалитетно сработена“, вели Шленкер, кој воедно е и виш истражувач на Институтот за истражување на пазарот на труд (IAB).

Клучниот проблем е критичката проверка, бидејќи вештачката интелигенција може да халуцинира.

„Сходно на тоа, веќе постојат истражувања кои покажуваат поместување во работните задачи – од извршување до надзор врз работата на вештачката интелигенција“, нагласува експертот. Меѓутоа, токму тој последен чекор често изостанува.

Влијанието на ВИ расте и во другите сектори на економијата

Според неодамнешното истражување на институт ifo, повеќе од 54 % од компаниите во Германија веќе користат вештачка интелигенција во своите процеси.

Податоците на IAB покажуваат дека две третини од вработените во Германија во одредена мера користат ВИ на работното место. Меѓутоа, само третина од корисниците вештачката интелигенција формално ја имаат воведено, истакнува Шленкер.

„Имаме многу високо ниво на т.н. shadow ВИ, каде компаните можеби неадекватно ги едуцирале вработените како да се носат со грешките поврзани со вештачката интелигенција.“ Тоа може да доведе до сериозни проблеми.

Во истражувањето на AI-компанијата Dataiku, дури 76 проценти од германските менаџери за управување со податоци изјавиле дека во текот на изминатата година се соочиле со деловни проблеми или кризи предизвикани од халуцинации на вештачката интелигенција.

Ова станува сè поголем проблем не само во економијата, туку и во академската заедница.

Frankfurter Allgemeine Zeitung, на пример, известува дека пазарот е преплавен со публицистички книги кои делумно се генерирани со помош на вештачка интелигенција. Исто така, расте бројот на лажни референци во научните трудови. Истражувачи од Универзитетот Корнел и Универзитетот во Калифорнија анализирале 2,5 милиони научни трудови и пронашле речиси 150.000 цитати што биле измислени од јазични модели.

Бјорн Омер, професор по вештачка интелигенција на Универзитетот „Лудвиг Максимилијан“ во Минхен, смета дека одговорноста е кај авторите.

„Без разлика дали користам вештачка интелигенција или компјутер за обработка на податоци, јас како автор ја сносам одговорноста за конечниот резултат.“

Не може да се тврди дека за одредени тврдења е одговорна вештачката интелигенција, бидејќи таа не е наведена како автор.

„Науката може да функционира само ако постои доверба дека другата страна е веродостојна“, вели Омер.

Студентите се свесни за ризиците

Центарот за академско пишување при Универзитетот „Гете“ во Франкфурт анкетирал повеќе од 4.000 студенти низ Германија за нивното користење на вештачката интелигенција.

Според резултатите, студентите најчесто ја користат ВИ за пронаоѓање информации, пребарување литература и содржини од одредени области. Тие се многу свесни за ризиците, наведува Нора Хофман, раководителка на центарот.

„Студентите јасно покажуваат дека знаат оти вештачката интелигенција греши, дека може да халуцинира и дека не може целосно да ѝ се верува.“

Тоа не ги одвраќа од користењето на ВИ, но ја користат внимателно и ги проверуваат изворите. Сепак, начините на кои обезбедуваат одговорност значително се разликуваат. Некои ја користат ВИ само за одредени задачи, додека други детално ја документираат нејзината употреба. Единствени правила на универзитетите и високите школи се реткост.

Пад на квалитетот и кражба на идеи

Нина Колек, професорка по теорија на образованието и социјализацијата на Универзитетот во Потсдам, предупредува на пад на квалитетот на научната работа.

„Дефинитивно постои тренд што оди кон социјалните мрежи и вештачката интелигенција: сè побрзо, сè поповршно и сè поплитко.“

Таа исто така истакнува дека многу луѓе погрешно ги доживуваат ChatGPT и сличните технологии како објективни и доверливи.

„Јазичните модели го прават само она што им е зададено“, нагласува таа.

Сè зависи од податоците на кои се обучени и од алгоритмите што ги користат. Сепак, најголемата опасност ја гледа во сè почестата кражба на идеи.

„Додека едни детално истражуваат и анализираат, други само составуваат материјал преземен од други и го внесуваат во вештачката интелигенција.“ Со тоа станува речиси невозможно да се препознае плагијатот.

Поради тоа, таа повикува на воспоставување етички и квалитативни стандарди за користење на вештачката интелигенција.

„Треба да ја користиме вештачката интелигенција за да станеме подобри – на пример, за развој на алатки што овозможуваат анализа на значително поголеми збирки податоци, попрецизни анализи и откривање грешки.“

Извор: Tportal