Wikipedie:Velké jazykové modely

pravidla:

     závazná

     doporučení

     v hlasování

     navrhovaná

     neschválená

Návrh doporučení

Následující text je návrhem doporučení české Wikipedie. Své připomínky a návrhy vyjádřete na diskusní stránce, závažné návrhy oznamte též Pod lípou. Případné alternativní návrhy můžete umístit na tuto stránku, neměňte však texty cizích návrhů. Posuzování návrhů má probíhat tak, aby byl konečný text výsledkem konsensu.

---

Rapidní vývoj strojového učení ve 21. století způsobil rozšíření umělé inteligence (zkr. AI) do každodenního života lidí, zejména prostřednictvím tzv. velkých jazykových modelů (zkr. LLM) či AI chatbotů, jako jsou ChatGPT, Gemini, DeepSeek aj. Wikipedii přinesl kvalitativně nové nástroje, např. překladatelské, korektorské, možnosti hromadného upravování a nahrazování bez nutnosti programátorských znalostí. Tyto pokročilé technologie nicméně mají svá omezení a využití jejich „znalostí“ je na Wikipedii problematické. Empirická pozorování ukazují, že mají tendenci vymýšlet si fakta i zdroje, mohou porušovat autorská práva nebo mohou být jejich výstupy jinak zkreslené. Tyto skutečnosti jsou v rozporu s pilíři, na kterých Wikipedie stojí, a proto je na Wikipedii využití velkých jazykových modelů tímto pravidlem omezováno, zejména v oblasti tvorby vlastního encyklopedického obsahu. Ukázky toho, jak mohou tyto technologie pomáhat Wikipedii plnit její cíl zpřístupnit zdarma veškeré znalosti, jsou naopak vítány. Při takových úkonech v rámci Wikipedie je vhodné jejich použití deklarovat, například ve shrnutí editace.

Využití velkých jazykových modelů na Wikipedii

Protože mohou být výstupy velkých jazykových modelů a AI chatbotů zkreslené a fakticky nesprávné, je nežádoucí využívat tyto nástroje na Wikipedii pro činnosti, jako jsou:

1. generování nového obsahu článků (ve smyslu zakládání nových i rozšiřování stávajících, a to obzvláště v případech, kdy je nejprve vygenerován nový text a teprve posléze jsou k němu dohledávány zdroje; toto se netýká překladů využívajících strojové překladače s umělou inteligencí);
2. citování těchto nástrojů jako zdrojů informací (toto se týká i zdrojů založených na AI textech, jako je Grokipedia apod.);
3. generování diskusních příspěvků (respektive jakákoli činnost matoucí uživatele ve smyslu podstaty Turingova testu, tj. zamlžující hranice mezi lidským uživatelem a strojem).

Naopak je možné využívat umělou inteligenci, LLM a AI chatboty například:

1. k překladům z cizojazyčných Wikipedií (ovšem s následnou důkladnou korekcí případných překladových chyb a halucinací), k opravám transkripce a transliterace;
2. ke kontrole a opravám pravopisu a gramatiky a k různé další korektorské činnosti (ovšem obezřetně, protože tyto nástroje mohou poskytovat chybná doporučení a úpravy mohou způsobit i nežádoucí významové změny opravovaného textu);
3. k úpravám stylistiky (se stejnou podmínkou jako v předchozím bodě);
4. ke kontrole a úpravám formátování a k technickým činnostem, jako je třeba standardizace formátu údajů v článcích, řazení seznamů a tabulek apod. (s kontrolou, zda nedošlo k chybám).

Možnosti dalších vhodných a nevhodných způsobů využití lze posuzovat individuálně, vždy však platí, že za vložený obsah nese veškerou odpovědnost jeho vkladatel (a nelze tudíž ani importované chyby omlouvat využitím AI). Využití softwarových aplikací založených na algoritmech umělé inteligence a rozsah tohoto využití při tvorbě příspěvků na Wikipedii je vhodné deklarovat ve shrnutí editace a/nebo na diskusní stránce k článku (česká Wikipedie v tomto ohledu navazuje na deklarace využití umělé inteligence v akademické sféře).

Důvody k obezřetnosti

Proč je obezřetnost k výstupům AI namístě? Velké jazykové modely…

… mohou halucinovat fakta i zdroje.

Velké jazykové modely jsou statistickými modely. Pro daný požadavek (prompt) vygenerují nejpravděpodobnější (v terminologii statistiky věrohodný) výstup. Neexistuje však garance toho, že je výstup pravdivý nebo alespoň v souladu s trénovacími daty. V praxi již byla demonstrována schopnost LLM generovat i celé hoaxy. Sama rozhraní velkých jazykových modelů připouštějí chyby a doporučují vlastní kontrolu informací. Velké jazykové modely navíc zpravidla necitují zdroje nebo na vyžádání uvádějí zdroje, které jsou vymyšlené, což je v rozporu s požadavkem Wikipedie na ověřitelnost obsahu a zákaz vlastního výzkumu.

… mohou být založeny na nevěrohodných zdrojích informací.

Nelze vyloučit, že trénovací data velkého jazykového modelu zahrnují zdroje, které Wikipedie výslovně zakazuje nebo nepovažuje za věrohodné. Jde například o Wikipedii samotnou, její mirrory, různé blogy, diskusní fóra, weby s obsahem generovaným LLM, weby na protispamové listině nebo zpětnou vazbu od uživatelů LLM. LLM tak samy nejsou považovány za věrohodné zdroje (viz Wikipedie:Věrohodné zdroje#Velké jazykové modely).

… mohou produkovat texty, které odporují stylu Wikipedie.

Velké jazykové modely mohou uživateli poskytnout text, který formálně i obsahově není kompatibilní s pravidly Wikipedie. Jmenovat lze například texty zformátované jako odrážkový seznam a jiné prohřešky proti vzhledu a stylu, texty příliš obecné a obsahově plytké, dále texty neencyklopedické, subjektivní či obsahující vyhýbavé formulace.

… mohou porušovat autorská práva.

V roce 2025 byl právní rámec velkých jazykových modelů stále nevyřešenou otázkou. V praxi se však ukazuje, že tyto nástroje mají tendenci kopírovat cizí texty nebo je parafrázovat jen minimálně, čímž mohou porušovat práva jejich autorů. Tento jev lze pozorovat jak při úlohách, v nichž má umělá inteligence cizí text zjednodušit nebo zkrátit, tak při sumarizaci textů, které si nástroj sám vyhledal na internetu.

… jsou proprietárními černými skříňkami.

Zdrojové kódy ani trénovací data většinou nejsou veřejně dostupné, a nelze proto vyloučit, že s nimi bylo účelově manipulováno. Výstup navíc může být přizpůsoben konkrétní uživatelce či uživateli, ovlivněn prvkem náhody nebo v krajním případě i cenzurován.

Podezření na vygenerovaný obsah

Obsah, u kterého existuje podezření, že byl vygenerován umělou inteligencí, lze označit údržbovou šablonou {{Napsáno umělou inteligencí}}, jako neověřený odstranit (zejména v případě článků o žijících osobách), nebo postoupit do procesu odloženého smazání.

Dlouhodobé využívání umělé inteligence odporující pravidlům může být považováno za narušování Wikipedie. Protože se však styl psaní některých uživatelů může velkým jazykovým modelům pouze podobat, uložení případných sankcí by mělo být založeno na pečlivé analýze příspěvků takového uživatele nebo uživatelky, zejména s ohledem na jejich ověřitelnost a jiná základní pravidla projektu.

Reference

Obsah této stránky byl inspirován jejími protějšky na anglické Wikipedii: en:Wikipedia:Large language models, en:Wikipedia:Writing articles with large language models.

Související stránky

• Wikipedie:Žádost o komentář/Velké jazykové modely – komplexní diskuse