СЗО упозорава: Вештачка интелигенција боље бира доноре органа, али прави озбиљне грешке у здравству

Вештачка интелигенција (АИ) већ сада боље од човека одабира органе даваоца за трансплантацију и боље одговара на нека питања о здрављу пацијената, али доноси и ризике и „озбиљне грешке“, упозорила је Светска здравствена организација.

Светска здравствена организација (СЗО) са седиштем у Женеви поздравља велики потенцијал вештачке интелигенције која може бити јако корисна, али упозорава да увођење поступака лечења са АИ у здравствени систем носи опасност од „потпуно погрешне“информације.

Проценити опасности коришћења

„Нужно је проценити опасности коришћења алата LLMs (generated large language model tools) као што је ChatGPT јер они могу да доведу до тешких грешака у здравству и поткопају поверење у АИ“, саопштила је СЗО.

СЗО се огласила у време када примене вештачке интелигенције великом брзином стичу популарност. Забринутост проистиче из тога што се редовне норме опреза не примењују на LLMs.

Предлагачи коришћења АИ верују да ће лекари убрзо користити систем АИ Chat да брже одговоре на питања пацијената о њиховом здрављу, а АИ ће се користити и у дијагностици. Међутим, два четбота „Мајкрософта“ и „Гугла“ показала су да њихови одговори нису потпуно поуздани кад је реч о чињеницама, а СЗО је забринута баш зато што се ти одговори чине као поуздани.

„LLMs производи одговоре који се могу чинити ауторитативним и веродостојним крајњем кориснику. Међутим, ти одговори могу да буду потпуно нетачни или да садрже озбиљне грешке, посебно кад је реч о одговорима у вези са здрављем“, упозорава СЗО.

Те информације могу довести у заблуду и произвести информацију која ће се чинити јако веродостојном, а коју јавност не може разликовати од поуздане. СЗО зато предлаже да се пре примене АИ у здравству струка позабави тим питањима и да измери користи и штете пре него што одобри њену опсежну примену, пренео је Индекс.