Вештачката интелигенција на Google: YouTube е главен извор на одговори за здравствени прашања

Функцијата за пребарување на Google, AI Overviews, која ги сумира одговорите со помош на вештачка интелигенција, почесто го цитира YouTube отколку која било медицинска веб-страница кога одговара на прашања за здравствени состојби. Ова го покажа германско истражување кое отвора нови прашања за алатката што месечно ја користат околу две милијарди луѓе, пишува The Guardian.

Иако Google тврди дека неговите AI-резимеа се „доверливи“ и се повикуваат на угледни медицински извори како што се американските Центри за контрола и превенција на болести (CDC) и клиниката Mayo, студијата покажала поинаква слика. Со анализа на повеќе од 50.000 здравствени пребарувања собрани преку Google од Берлин, било утврдено дека YouTube е најчесто цитираниот извор.

YouTube како водечки извор

Истражувачите од компанијата SE Ranking, платформа за оптимизација на пребарувачи, откриле дека YouTube учествува со 4,43 % од сите цитати во AI-резимеата. Тие навеле дека ниту една болничка мрежа, државен здравствен портал, медицинско здружение или академска институција не се приближила до тој број.

„Ова е важно затоа што YouTube не е медицински издавач“, напишале истражувачите. „Тоа е видео-платформа за општа намена. Секој може да објавува содржини (на пример, лекари со сертификат, болнички канали, но и велнес-инфлуенсери, лајф-коучеви и креатори без никаква медицинска обука).“

Следен најцитиран извор бил NDR.de, страницата на германската јавна радиотелевизија, со 3,04 %, на третото место се нашла медицинската референтна страница Msdmanuals.com со 2,08 %, четврти бил најголемиот германски здравствен портал за потрошувачи Netdoktor.de (1,61 %), а петти платформата за кариери на лекари Praktischarzt.de (1,53 %).

Структурни ризици за јавното здравје

Ова истражување се надоврзува на претходна анализа на Guardian, која откри дека корисниците биле изложени на ризик поради лажни и погрешни здравствени информации во одговорите на AI Overviews.

Во еден случај, кој експертите го нарекле „опасен“ и „алармантен“, Google дал неточни информации за клучни тестови на функцијата на црниот дроб, што можело да наведе лица со сериозна болест погрешно да заклучат дека се здрави. По тоа, компанијата ги отстранила AI-резимеата за некои медицински пребарувања.

Студијата на SE Ranking била спроведена во Германија затоа што нејзиниот здравствен систем е строго регулиран. „Ако AI-системите во таква средина во голема мера се потпираат на немедицински или неавторитетни извори, тоа сугерира дека проблемот може да се прошири надвор од која било поединечна земја“, напишале авторите.

Хана ван Колфсхутен, истражувачка специјализирана за вештачка интелигенција и здравје на Универзитетот во Базел, која не учествувала во истражувањето, изјавила:
„Оваа студија дава емпириски докази дека ризиците што AI Overviews ги носи за здравјето се структурни, а не анегдотски. На Google му станува сè потешко да тврди дека погрешните или штетни здравствени резултати се ретки случаи.“
Таа додала дека изгледа оти „видливоста и популарноста, а не медицинската доверливост, се главните двигатели на здравственото знаење“.

Одговорот на Google

Од Google за Guardian изјавиле дека AI Overviews е дизајниран да прикажува висококвалитетна содржина од угледни извори, без разлика на форматот, и дека многу веродостојни здравствени авторитети и лиценцирани стручњаци создаваат содржини на YouTube. Тие сметаат дека резултатите од студијата не можат да се генерализираат бидејќи е спроведена на германски јазик и во Германија.

Портпарол на Google изјавил:
„Импликацијата дека AI Overviews дава недоверливи информации е побиена со сопствените податоци од извештајот, кои покажуваат дека најчесто цитираните домени се угледни веб-страници. И според она што го видовме во објавените наоди, AI Overviews цитира стручни YouTube-содржини од болници и клиники.“

Google истакнал дека студијата покажала оти 96 % од 25-те најцитирани YouTube-видеа биле од медицински канали. Сепак, истражувачите предупредиле дека тие видеа сочинуваат помалку од 1 % од сите YouTube-линкови што ги цитираат AI-резимеата, додавајќи:
„Со останатите видеа, ситуацијата може да биде многу поинаква.“

Извор: Index.hr