Zaznelo na odbornom seminári: Internet je kontaminovaný, knihy „píše“ aj umelá inteligencia, no dokáže bojovať aj proti nenávisti, kľúčová sa ukazuje zodpovednosť

Umelá inteligencia je dnes trendovou, rýchlo sa rozvíjajúcou a vo viacerých prípadoch aj kontroverznou oblasťou. Hovoriť o tejto téme v aktuálnych súvislostiach pozval odborníkov aj Národný inštitút vzdelávania a mládeže (NIVaM). Jeho oddelenie knižničných a informačných služieb zorganizovalo tematický odborný seminár nielen pre knihovníkov.

„Uvedomujeme si, že umelá inteligencia rastie na význame a stáva sa kľúčovou nielen pre digitalizáciu spoločnosti, ale je aj prioritou Európskej únie. Rozhodli sme preto priblížiť niektoré z jej tém aj zástupcom knižníc a ďalších odborných inštitúcií. Pozvali sme odborníkov, ktorí sa na zložité otázky pozreli čo najzrozumiteľnejším jazykom,“ priblížila za organizátorov podujatia Zuzana Sýkorová, vedúca oddelenia knižničných a informačných služieb v NIVaM.

Odborný seminár o umelej inteligencii (12. 9. 2024) v priestoroch Centra vedecko-technických informácií SR (CVTI SR) otvoril Igor Farkaš, zástupca vedúcej Katedry aplikovanej informatiky na FMFI UK v Bratislave. Venoval sa umelej inteligencii veľkých jazykových modelov a priniesol kognitívny pohľad na túto populárnu technológiu.

“Umelá inteligencia pred takmer dvomi rokmi bezprecedentne ohúrila svet prostredníctvom veľkých jazykových modelov, na ktorých sú postavené inteligentné četboty. Táto technológia, založená na hlbokých neurónových sieťach, je príkladom novej paradigmy – generatívnej UI, ktorá však prináša so sebou aj akútny problém kontaminácie internetu, keďže okrem ľudí už aj generatívna UI, a to viacnásobne rýchlejšie, prispieva k ukladaniu nepravdivých a škodlivých dát. Príčinou ‘halucinovania’ je algoritmická podstata tejto technológie, ktorej chýba sémantika, ktorá by bola ukotvená v reálnom svete, hoci generované texty zväčša vyzerajú inteligentne. Dajú sa očakávať vylepšenia tejto technológie s využitím poznatkov kognitívnej vedy, avšak boj s dezinformáciami, a to nielen textovými, je kľúčový už teraz, keďže vplyv digitálnych technológií na ľudstvo narastá,” uviedol Farkaš k téme svojej prezentácie.

“…boj s dezinformáciami, a to nielen textovými, je kľúčový už teraz, keďže vplyv digitálnych technológií na ľudstvo narastá,…”

Tému dezinformácií prehĺbil následne Ján Trangel, špecialista na digitálne média a novinár zo zameraním na informačné technológie. Hneď na úvod totiž položil otázku: „Viete si predstaviť, že na bolesť vám bude odporúčaná protitanková strela?“ Hovorí v tejto súvislosti o fakte, že internet zahlcujú nezmyselné texty.

„Pokiaľ si človek dal námahu vytvoriť nejaké dielo, napríklad napísať knihu, pravdepodobne má na to dôvod. Preto sa dá, možno trošku alibisticky, povedať, že takéto dielo je hodné uchovania v rámci knižničného fondu. Až čas preverí či dielo upadne do zabudnutia alebo zázračne zažiari v inej dobe. Knihovník mu nemôže vopred predpovedať osud. Avšak tento klasický prístup k budovaniu knižničných fondov už nestačí. Masívny nástup služieb generatívnej umelej inteligencie stavia pred knižničnú vedu úplne nové výzvy.

Umelá inteligencia totiž môže každú minútu vytvoriť tisíce nových kníh, článkov či iných diel, ktoré možno nikdy žiadny človek čítať nebude. Niekedy dokonca nemusia ani dávať zmysel, sú iba zhlukom náhodne pospájaných slov s lákavým nadpisom.

Tento digitálny odpad zaplavuje internet aj internetové kníhkupectvá a pred knihovníkov stavia novú výzvu. Ako budovať knižničný fond v ére umelej inteligencie? Ktoré diela má hodnotu uchovávať a ktoré v záujme ochrany fondu, a tiež našich ľudských kapacít, vopred vylúčiť? Kedy môžeme dielo považovať za nehodnotné, teda nehodné uchovania? Je vôbec možné stanoviť objektívne kritériá? Kedy je umelej inteligencie ‘veľa’ a kedy je to ešte v poriadku?,“ pýta sa Trangel opodstatnene v kontexte svojej prednášky.

“… Ako budovať knižničný fond v ére umelej inteligencie? …”

Tematicky nadviazala aj Daniela Vacek, vedecká pracovníčka Filozofického ústavu Slovenskej akadémie vied. Do svojej prezentácie vybrala niektoré z etických problémov umelej inteligencie. „Z etických problémov, ku ktorým vývoj, distribúcia či používanie umelej inteligencie vedie, je potrebné vyzdvihnúť zodpovednosť. Pri ostatných problémoch sa totiž možno pýtať, kto zodpovedá za to, aby nenastali a kto je zodpovedný za to, že nastali. Pojmov zodpovednosti je však viac a v dôsledku toho existuje aj viac problémov – potenciálnych – medzier v zodpovednosti. Nutné je preto hľadať aj viac riešení.“

“… Pojmov zodpovednosti je však viac a v dôsledku toho existuje aj viac problémov…”

A riešenia ako bojovať proti nenávisti a dezinformáciám na internete na záver predstavila Lucia Drobná zo softvérovej spoločnosti ELV.AI.

„Keďže podujatie otvorilo viaceré ďalšie otázky na diskusiu, plánujeme pokračovať v organizovaní podujatí, ktoré budú odkrývať aktuálne otázky umelej inteligencie a ponúkať relevantné odpovede nielen pre knihovníkov, ale aj iných odborníkov, ktorí sa s ňou dennodenne v praxi stretávajú prípadne ich to čaká,“ uzavrela Sýkorová ako vedúca oddelenia knižničných a informačných služieb v NIVaM.

Zdielať tento článok