Podívali jsme se na hranice AI a jak může snadno selhat.
Cenzura a manipulace
K jedné aktivitě mne inspiroval Pavel Hodál a využila jsem materiál z jeho skvělého článku Svoboda informací versus cenzura – Co nám (ne)řekne AI?. Určitě je spíše pro starší žáky a více přemýšlivé žáky, ale tam je tam dopad obrovský.
Překvapení z výsledků bylo nelíčené!
Nechala jsem využívat libovolné AI modely podle jejich zvyklostí a porovnávali jsme výsledky a bavili právě o tom, co je bezpečnostní omezení, projev cenzury nebo lež či nepřesnost. V části o cenzuře za začátku trochu vládla nuda, protože výsledky byly hodně podobné. Do doby než přišla otázka o Ujgurech a čínské servery. Pak jednoznačně zavládl šok.
Ne, nenechala jsem žáky přihlašovat na čínské servery, využili jsme stránku https://editee.com/chat-gpt a možnost vyzkoušet si různé modely.
Většina LLM se zmiňuje o genocidě národa:
Třeba DeepSeek péči o ně vychvaluje:
Větší rozpor snad už být nemůže a naši zranitelnost při sbírání informací bez ověření odhalil v plné nahotě.
Je tam pošta?
Další materiál pro ukázku omezení AI mi poskytly články Pavla Kasíka na SeznamZprávy.cz
- pošta na letišti – https://www.seznamzpravy.cz/clanek/tech-internet-zaplavi-chaos-uverime-chatbotum-a-zapomeneme-jak-vznika-duvera-278443
- obyvatelé ČB v roce 1921 – https://www.seznamzpravy.cz/clanek/tech-ai-umela-inteligence-umela-inteligence-vam-keca-jak-funguji-halucinace-a-proc-jsou-uzitecne-278503
Pokud jeho články neznáte, pak doporučuji si je přečíst.
Vlastní úkol byl úplně jednoduchý. Otázka „Je v Praze na letišti pošta?“ v sobě na první pohled žádnou záludnost neskrývá a přitom je víc než záludná. Google odpoví, že ano a AI modely také, jen občas se některý a jen některým uživatelům na druhý pokus omluvil a opravil se.
Nabízí se otázka Kde to tedy zjisit jistě? Seznam poboček přímo od České pošty je asi nejjistější, ale pozor pošta v Ruzyni opravdu je, ale není to letiště. Pobočky pošty se dají najít i na Mapy.cz a ukáží vám ji na letišti úplně přesně. Jen si musíte všimnout v boční liště, že je trvale zavřeno.
Prostě velmi jednoduchá otázka a spousta problémů, které ani ta geniální AI neřeší dobře.
Vyzkoušeli jsme i hledání počtu obyvatel Českých Budějovic a výsledky opět přinesly zmatení, překvapení a otázku Čemu věřit? A jak a kde fakta ověřit? Pro mne i otázku Je AI až takový pomocník? Mám čas vlastně úplně vše ověřovat?
Všechny tyto aktivity určitě použiji i letos a budu sama zvědavá, zda dojde k nějakým změnám ve výsledcích.
Ne, nevyřešili jsme všechny otázky. Nedali jsme si jasné a jednoduché odpovědi a návody. Jen jsem snad zasela semínko pochybností a ukázala nutnost nad výsledky se zamýšlet.