Použití generativní umělé inteligence v akademickém publikování

Tento článek se primárně zaměřuje na problematiku publikování v akademických vydavatelstvích a pokrývá pouze část problematiky využívání AI na univerzitě. Podrobné informace o používání nástrojů umělé inteligence studenty, včetně citačních zásad nebo přehledu nástrojů AI pro akademickou sféru, poskytuje Knihovna Mendelovy univerzity v Brně.

Před jakýmkoli využíváním nástrojů AI pro akademické účely by si každý autor měl osvojit znalosti možných rizik spojených s touto technologií a také možnosti zabezpečení a ochrany osobních údajů. To především proto, že u nástrojů AI existují obavy týkající se zásad uchovávání dat (možnost úniku citlivých dat) a dále také zaznamenávání vložených informací.

Zásady použití nástrojů umělé inteligence (AI) na Mendelově univerzitě v Brně

MENDELU je otevřena novým možnostem, které umělá inteligence pro vzdělávací a tvůrčí činnost přináší. Proto není záměrem umělou inteligenci včetně generativních AI modelů zakazovat. Naopak, cílem je nastavit základní zásady pro používání AI, mezi které současně patří:

1. Jakékoliv nekritické přímé přebírání části textu, který nevytvoří sám autor, je neetické, porušuje akademické standardy a je principiálně stejné jako tzv. ghostwriting.
2. Umělé inteligence by mělo být využíváno jako nástroje, který má autorům pomoci; přebírání výstupů nástrojů umělé inteligence nesmí nahrazovat vlastní kreativní a tvůrčí činnost autora.
3. Části prací, ve kterých bylo využito umělé inteligence, musí být jasně označeny a použití tohoto nástroje přiznáno; v opačném případě se bude jednat o pokus o podvod.
4. Autor přebírá veškerou odpovědnost za text a data, které umělá inteligence vytvoří; využitím umělé inteligence autor souhlasí s podmínkami poskytovatelů, včetně práce s citlivými údaji.

Použití generativní umělé inteligence v akademických rukopisech

V mezinárodním prostředí je využívání nástrojů AI v akademickém publikování regulováno spíše ze strany jednotlivých vydavatelství, která ve většině případů neumožňují uvedení umělé inteligence jako jednoho z autorů či spoluautorů. Při publikační činnosti je tedy doporučeno vždy sledovat podmínky jednotlivých vydavatelství pro možnost užití nástrojů AI v textu.

Přehled vybraných vydavatelství a možnosti použití umělé inteligence ve vydávaných publikacích

* Podrobné podmínky ze stránek vydavatele dostupné po rozkliknutí jednotlivých odkazů v názvech.

Podle vydavatele ASC, nástroje umělé inteligence (AI) nejsou způsobilé pro autorství, nemohou tedy být uvedeny jako jeden z autorů. Autoři mohou nástroje AI používat za předpokladu, že bude generování textu či obrázků uvedeno v textu, v sekci Acknowledgement. V této části by také mělo být podrobně uvedeno, jak a kdy byly nástroje AI použity. V případě, že bude umělá inteligence použita v rozsáhlejším měřítku, je nutné detailně specifikovat použití všech nástrojů také v sekci Methods, či jiné vhodné části rukopisu.

Využití umělé inteligence je možné, ale musí to být v rukopisech odevzdaných Cambridge University Publishing uvedeno a podrobně vysvětleno, stejně jako použití jakéhokoli jiného softwaru, nástrojů a metodik. AI nesplňuje požadavky na autorství s ohledem na požadavek na odpovědnost za obsah textu, z čehož vyplývá, že AI nástroje a LLM nemohou být uvedeny jako jeden z autorů v žádné publikované vědecké práci. Autoři dále odpovídají za přesnost, integritu a originalitu svých vědeckých prací, včetně využití AI nástrojů. Jakékoli použití nástrojů AI v rukopisech nesmí porušovat zásady Cambridge University Publishing týkající se plagiátorství.

Vydavatelství DeGruyter nepřímá rukopisy vygenerované pomocí nástrojů umělé inteligence (včetně LLM, sady nástrojů pro strojové učení MLT) s ohledem na neschopnost těchto nástrojů převzít odpovědnost za předloženou práci. AI nástroje tedy nemohou být uvedeny jako autoři či spoluautoři. V případě, že AI nástroje byly využity jako součást návrhu nebo metodiky výzkumné studie, jejich použití musí být uvedeno a detailně popsáno v sekci Acknowledgement.

U rukopisech odevzdaných do vydavatelství Elsevier se očekává, že pokud autoři použili při tvorbě vědecké práce nástroje umělé inteligence, byly tyto nástroje použity pouze ke zlepšení čitelnosti a jazyka v rukopisu. AI nástroje nesmí nahrazovat klíčové autorské úkoly, jako je vytváření vědeckých, lékařských, či pedagogických poznatků, nesmí být použity k vyvozování závěrů nebo doporučení. Nástroje AI nesmí být uvedeny jako jeden z autorů či spoluautorů, ani být citovány jako autor. Použití nástrojů AI je podmíněno lidským dohledem a kontrolou veškerých výstupů. Autoři jsou odpovědni za obsah rukopisu a použití nástrojů AI musí být uvedeno v samotné práci.

Vydavatelství Inderscience uvádí, že nástroje umělé inteligence nemohou být uvedeny jako jeden z autorů. Autoři jsou plně odpovědni za obsah předložených manuskriptů, a to i v případech, že manuskripty byly z větší části vytvoření nástroji AI. Autoři jsou tedy odpovědni za nepřesnosti, chyby, nebo porušení publikační etiky. Použití nástrojů AI také musí být uvedeno v sekci Acknowledgement, včetně podrobné specifikace použitých technologií a jejich účelů.

Podle pokynů vydavatelství MDPI se nástroje AI (včetně Chat GTP a LLM) nemohou uvádět jako autoři či spoluautoři rukopisů , jelikož nesplňují kritéria autorství. Nástroje AI mohou být v odevzdaných rukopisech použity, autoři jsou odpovědni za originalitu, platnost a integritu odevzdané práce, a musí zajistit, aby byla vypracována v souladu s etickými pravidly pro publikování MDPI. Použití nástrojů AI musí být transparentně uvedeno v sekci Acknowledgement, kde je potřeba popsat, které nástroje byly použity. Dále v sekci „Materials/Methods“ musí být uveden podrobný popis toho, jak a kdy byly nástroje použity.

Vydavatelství MIT Press nedovoluje uvedení nástrojů AI (včetně ChatGTP a LLM) jako autorů či spoluautorů, z důvodu jejich neschopnosti naplnit požadavky pro autory. Autoři odevzdaných rukopisů užívající nástroje AI ke tvorbě textu, obrázků/grafiky či sběru dat, mají povinnost o tomto užití informovat editory a transparentně užití nástrojů AI popsat v odevzdaných rukopisech, tak aby byla jasná role těchto nástrojů při vytvoření textu. Autoři jsou odpovědní za obsah rukopisů, včetně částí vytvořených umělou inteligencí a nesou odpovědnost za případné porušení etických zásad.

Nástroje AI, jako je chat GTP, podle Oxford University Press nemohou být považovány za autory či spoluautory, a jejich použití bude v přijatých rukopisech kontrolováno. Použití umělé inteligence, včetně generování kódu, analýzy dat, či generování obsahu, musí být uvedeno v průvodním dopise editorům, i v odevzdaném rukopise v sekci Methods nebo Acknowledgement.

Veškeré rukopisy využívající umělé inteligence ke studii nebo obsahu práce odevzdané do PLOS musí obsahovat prohlášení v textu práce, v částech Methods, nebo Acknowledgement u rukopisů, které nemají část Methods. V prohlášení by měly být uvedeny všechny názvy použitých nástrojů AI, včetně popisu použití nástrojů, vyhodnocení platnosti výstupů nástrojů, a jasné vyjádření toho, které aspekty studie, obsahu článku, dat nebo podpůrných souborů byly ovlivněny/vygenerovány použitím nástrojů AI.

V případech, kdy nástroje umělé inteligence LLM přispívají ke generování textu odevzdaného do PLOS, autoři mají odpovědnost za zajištění přesnosti a platnosti obsahu, souladu rukopisu se zásadami proti plagiátorství PLOSE, a uvedení všech relevantních zdrojů. Dále autor musí zajistit, že všechna tvrzení v rukopise uvádějící hypotézy, interpretace, výsledky, závěry, omezení a důsledky studie představují vlastní myšlenky autorů.

Nástroje AI v odevzdaných rukopisech nemohou být uvedeni jako autoři či spoluautoři. Autoři mají povinnost v rukopise jasně uvést, které jazykové modely byly použity, včetně toho, který model byl použit a za jakým účelem. Podle potřeby toto oznámení umístit do sekce rukopisu Methods nebo Acknowledgement. Autoři dále musí ověřit přesnost, platnost a vhodnost obsahu a všech citací vytvořených jazykovými modely a opravit případné chyby nebo nesrovnalosti.

Odpovědností autora je také uvést seznam zdrojů použitých pro generování obsahu a citací, včetně zdrojů generovaných jazykovými modely. Překontrolovat citace, aby se autoři ujistili, že jsou přesné a že jsou správně odkazovány. Autoři musí také shledávat možnost plagiátorství v případech, kdy je možné, že LLM reprodukuje podstatné části textu z jiných zdrojů, a následně zkontrolovat původní zdroje, aby se autoři ujistili, že nedochází k plagiátorství cizí práce. Možnosti omezení jazykových modelů je v rukopise nutné uvést, včetně možnosti zkreslení, chyb a mezer ve znalostech.

Podle pokynů vydavatelství Science (American Association for Advancement of Science), nástroje AI, včetně ChatGTP, LLM, a nástrojů užívaných pro vytváření obrázků, nejsou kvalifikované pro autorství, proto nesmí být uvedeny jako autoři či spoluautoři rukopisu, ani citovány. Autoři, kteří používají AI nástrojů ve svých pracích, mají povinnost informovat o tom editory v průvodním dopise a také v sekci rukopisu Acknowledgement. V sekci Methods je dále nutné uvést detailní informace o tom, jaké nástroje byly použity, včetně jejich verze.

Autoři jsou odpovědní za správnost textu a soulad rukopisu s etickými zásadami, včetně pravidel pro posuzování plagiátů. Pokud dochází k používání nástrojů AI, autoři mají povinnost dané sekce textu překontrolovat a ujistit se o jejich správnosti. Použití obrázkových materiálů vygenerovaných pomocí AI nástrojů je v publikacích Science (AAAS) bez explicitního svolení editorů striktně zakázáno.

Nástroje AI (včetně LLM modelů a ChatGTP) nejsou kvalifikované pro autorství a není možné je v odevzdaných rukopisech uvádět jako autory či spoluautory práce. Pokud jsou nástroje AI použity během tvorby manuskriptu, jejich použití musí být řádně zdokumentováno v sekci Methods, nebo jiné vhodné části rukopisu. Springer Nature dále nepovoluje publikování rukopisů obsahujících umělou inteligencí vygenerované obrazové materiály, s výjimkou článků a materiálů, které se na tyto materiály přímo odkazují.

Podle zásad pro publikování u vydavatelství Taylor & Francis, nástroje AI (včetně LLM, ChatGTP) mohou být v odevzdaných rukopisech použity za podmínek, že splňují vydavatelské politiky týkající se autorství a zásad publikační etiky. Autoři při použití nástrojů AI přebírají odpovědnost za obsah a jeho správnost. Nástroje AI nesmí být uvedeny jako autoři ani spoluautoři, ale veškeré použití umělé inteligence při tvorbě rukopisu musí být uvedeno a náležitě zdokumentováno.

The Royal Society přijímá rukopisy užívající nástroje AI za podmínek, kdy je vyžadováno uvedení této skutečnosti přímo v textu práce. Při publikaci rukopisu bude také vyžadováno prohlášení autora o použití umělé inteligence, které by mělo obsahovat podrobné informace o použitých nástrojích a způsobu jejich použití, včetně definování, které části textu byly vytvořeny pomocí nástrojů AI nebo s jejich pomocí. Posouzení vhodnosti použití nástrojů AI spadá do kompetence editorů a recenzentů.

V případě, že nástroje AI byly použity při procesu psaní rukopisu, mělo by tak být pouze za účelem vylepšení čitelnost a jazykovou stránku práce. Použití umělé inteligence pro editaci rukopisu musí být v práci uvedeno a nesmí nahrazovat klíčové úkoly výzkumného pracovníka, jako je vytváření vědeckých poznatků, analýza a interpretace dat nebo vyvozování vědeckých závěrů.

AI nástroje nesmí být uvedeny jako autor nebo spoluautor publikace a nesmí být jako autor ani citovány. Je odpovědností autora ověřit originalitu, ale také zkontrolovat, zda použití nástrojů umělé inteligence neporušuje etické zásady vydavatele a samotný obsah práce je správný.

Nástroje umělé inteligence AI, podle stanoviska vydavatele Wiley nesplňují požadavky na autorství, proto nemohou být uvedeny jako autor či spoluautor článku. Při použití těchto nástrojů při tvorbě rukopisu, musí autor podrobně doložit jaký druh nástroje byl použit, za jakým účelem a v jaké části textu. Toto oznámení by mělo být uvedeno  sekcích rukopisu Methods a Acknowledgment.

Autoři plně přebírají odpovědnost za správnost všech informací poskytnutých nástrojem a správné uvedení odkazů na podpůrné práce, ze kterých tyto informace vycházejí. Do těchto pokynů se nevztahují nástroje AI, které se používají za účelem zlepšení kvality pravopisu, gramatiky, nebo obecné editaci rukopisu.

Příklady prohlášení o použití umělé inteligence v rukopise

Pokud při vytváření rukopisu používáte generativní umělou inteligenci, měli byste v příslušných sekcích textu, podle požadavku vydavatele uvést, jak jste nástroj použili, i když do své práce nezahrnete žádný obsah vytvořený umělou inteligencí. Doporučujeme uvést popis použitého nástroje AI, způsob generování informací, včetně příkazů (tzv. prompt), které jste použili.

Příklad 1:

Upozorňuji na použití [název nástroje nebo technologie umělé inteligence] a [odkaz] k vytvoření [doplňte; nejlépe uveďte specifické části manuskriptu]. Zadal/a jsem následující prompt/příkazy [doplňte]. Použil/a jsem výstup k [doplňte]. Upravil/a jsem výstup [doplňte].

Příklad 2:

Potvrzuji, že jsem při vypracování tohoto hodnocení použil/a [název nástroje nebo technologie umělé inteligence] k vytvoření materiálů pro základní výzkum a samostudium.

Příklad 3:

V této části bych rád/a upozornil/a, že jsem při vypracovávání tohoto úkolu využil/a ChatGPT [https://chat.openai.com/] k získání nápadů a podkladů pro základní výzkum a plánování projektu. Následující příkazy/prompt byly do ChatGPT zadány 30. března 2023: „Existují důkazy o přítomnosti vody na planetách mimo sluneční soustavu“.

Příklad 4:

Upozorňuji na použití [název nástroje nebo technologie umělé inteligence] pro strukturování nebo plánování tohoto hodnocení.

Příklad 5:

Potvrzuji použití [název nástroje nebo technologie umělé inteligence] k vytvoření materiálů, které byly v upravené podobě zahrnuty do mého závěrečného hodnocení.

Příklad 6:

Potvrzuji použití [název nástroje nebo technologie umělé inteligence] k vytvoření materiálů, které byly zahrnuty do mého závěrečného hodnocení v nezměněné podobě.*

*Příkladem může být citace nebo obrázek vytvořený výstupem AI.

Identifikace AI generovaného textu

Generativní nástroje AI s sebou nesou velký potenciál i rizika, je nutné uvědomovat si možnosti zneužití těchto nástrojů v akademickém prostředí například vydávání textových výstupů AI za vlastní práci. Proto je dobré mít přehled o možnostech identifikace zneužití technologií umělé inteligence.

K identifikaci textu vygenerovaného za pomocí AI slouží mnohé nástroje, které jsou zdarma či za poplatek dostupné na internetu. Jejich velkou nevýhodou je nízká přesnost a spolehlivost, ale mnohdy také absence informací o tom, jak je s poskytnutým textem nakládáno a komu je text následně dostupný. Dostupné nástroje také mnohdy nemohou držet krok s rapidním vývojem nových AI nástrojů, u kterých odhalení vývoje pomocí umělé inteligence nemusí být vůbec možné. MENDELU před použitím nástrojů pro identifikaci AI generovaného textu varuje a doporučuje je používat autorům pouze pro kontrolu vlastních textů, a to s obezřetností vůči souvisejícím rizikům.

Kromě nástrojů pro identifikaci textu vytvořeného za pomoci umělé inteligence, existují také některé obecné charakteristiky, které AI texty mohou, ale ne vždy budou vykazovat. Tyto charakteristiky se nemusí ve všech AI vygenerovaných textech či datových souborech vyskytovat, ale slouží pouze pro základní orientaci. Podle stanovených Zásad využívání umělé inteligence na Mendelově univerzitě, vydaných ke dni 11.5.2023, mezi ně patří například:

• Text obsahuje všeobecně známé informace formulované bez dodržení terminologie a zasazení do kontextu tematického zaměření práce.
• Často se opakující věty se stejnou myšlenkou a stejné větné struktury a slova. Člověkem psaný text má tendenci mít přirozenější a rozmanitější styl s širokou škálou větných struktur a možností výběru slov.
• Text obsahuje protiřečící si tvrzení (klidně i v jednom souvětí nebo odstavci).
• V textu je zkreslována pravda tvrzením, že na danou otázku existuje pouze jedna odpověď.
• Jsou použity argumenty, které nedávají smysl, jsou protichůdné nebo nesouvisejí s tématem.
• V textu je patrná nízká úroveň emocionality – texty zadané bez požadavku na tón nebo jiné vlastností, je vygenerován zcela fakticky bez jakýchkoli osobních postřehů a emocí.
• Text obsahuje tvrzení založená na předsudcích a stereotypech a je vychýlen k západnímu stylu chápání světa.
• Text zmiňuje zdroje datované pouze do roku 2021 nebo obsahuje odkazy na neexistující zdroje (AI si je vymýšlí).
• Text neobsahuje chyby (gramatické, jazykové, překlepy), běžné pro člověkem vytvořený text.
• Text obsahuje dlouhé věty – včetně velkého množství nadbytečných slov, zvláště když je text zadán široce, bez jakýchkoli konkrétních pokynů.
• V textu jsou ve velké míře použita slova, jako jsou „ten“, „to“, „tyto“, „ty“, které se autor obvykle snaží minimalizovat s ohledem na čitelnost textu.