Etický kodex a praktická pravidla pro využití nástrojů umělé inteligence Člověkem v tísni

Strojové učení, aplikovaná statistika a další prvky AI se už nějakou dobu využívají v překladačích, hlasových asistentech, reklamních systémech, fotogaleriích nebo ve filtrování spamu, v posledním čase ale zažívají boom díky velkým jazykovým modelům nebo generátorům obrazů a fotek a objevují se v mnoha veřejně dostupných aplikacích.

Připravili jsme proto etické principy a praktickou sadu pokynů pro kolegy z Člověka v tísni, jak tyto veřejně dostupné služby (ne)využívat, abychom zajistili bezpečnost našich dat nebo transparentní označování výtvorů AI.

Obecné zásady

• Jsme zodpovědní a transparentní

• Respektujeme lidská práva

• Vzděláváme a usilujeme o to, aby z AI měla prospěch celá společnost

• Dbáme na bezpečnost a ochranu dat

Praktická pravidla pro využití nástrojů AI

• Práce s jazykovými modely (LLM)

• Využití generátorů obrazů, videa a audia

• Využití dalších nástrojů AI

• Ochrana dat

Následující kodex i pravidla budeme revidovat a upřesňovat podle potřeb a momentálního vývoje.

Obecné zásady

Základním východiskem pro využití nástrojů AI je rozvoj a rozšíření lidských schopností ve prospěch svobody, zajištění práv jednotlivce i prospěchu celé společnosti.

Jsme zodpovědní a transparentní

• Zodpovědnost za využití nástrojů AI a jejích produktů má člověk, konkrétní zaměstnanci a jejich nadřízení.
• Nástroje AI využíváme transparentně. Jejich použití musí být transparentní vůči příjemcům pomoci, donorům, partnerům, komunikačním protějškům a dalším zúčastněným stranám. Nikdy například zpětně neupravujeme existující fotografie, videa či audia nebo je negenerujeme tak, aby u nich mohlo dojít k záměně s médiem fotografie, videozáznamu nebo záznamu reálného zvuku, krom výjimečných případů, viz níže.
• Využití nástrojů AI je odůvodněné zkvalitněním naší práce. Nechceme generovat vyšší množství obsahů na úkor kvality.
• Jejich využití musíme umět vysvětlit, abychom zajistili kontrolu nad vlastním rozhodováním a uměli interpretovat jejich výsledky.

Respektujeme lidská práva

• Nástroje AI využíváme v souladu s Všeobecnou deklarací lidských práv a svobod. S ohledem na možné zesílení předsudků a diskriminačních zkreslení v použitých modelech a nástrojích AI dbáme na to, abychom vyloučili diskriminaci skupin a jednotlivců na základě rasy, původu, pohlaví, náboženství, sexuální orientace či politických názorů.
• Dbáme na zajištění rovnosti a psychické integrity, aby při využití nástrojů AI nedocházelo k zneužití lidských a psychických slabin jednotlivců či skupin a jiné informační a mocenské nerovnováze vůči zúčastněným stranám, abychom zachovali rovnost a lidskou důstojnost.
• Zohledňujeme dopad na společnost a životní prostředí. Zkoumáme a vyhodnocujeme, zda nástroje, prostředky a procesy, které využíváme, nemají širší negativní dopad na společnost a životní prostředí.

Vzděláváme a usilujeme o to, aby z AI měla prospěch celá společnost

• Ve vzdělávání usilujeme o to, aby z umělé inteligence měly prospěch bez rozdílu všechny děti. Informujeme a vzděláváme pedagogickou veřejnost, studenty*ky i žáky*ně, aby rozuměli jejímu fungování, uměli její nástroje využít a znali jejich omezení i rizika.
• Usilujeme o to, aby přístup k AI, informace o přínosech i rizicích AI a know-how ve využití jejích nástrojů bylo dostupné nejzranitelnějším skupinám, aby z nich měla prospěch celá společnost.
• Nástroje AI využíváme pro rozšíření přístupnosti našich služeb a informací lidem se sluchovým, zrakovým, mentálním a jiným postižením.

Dbáme na bezpečnost a ochranu dat

• Chráníme osobní údaje a další důvěrné informace, aby používání nástrojů AI bylo v souladu s GDPR a příslušnými zákony a předpisy o ochraně údajů a bezpečnosti a nemohlo být zneužité třetí stranou.

Praktická pravidla pro využití nástrojů AI

Práce s jazykovými modely (LLM)

• Veřejné nástroje jako ChatGPT, Bing, Bard atd. můžeme využít pro inspiraci, návrhy textů či úpravu stylistiky. Dají se rovněž využít na překlady, sumarizace, hledání synonym a odborných termínů, úpravu tónu, zkracování, návrhy titulků a další práci s obsahem. Některé specializované LLM je možné využít k řešení matematických a logických úloh, při tvorbě, úpravě a doplňování tabulek, při kategorizaci, zjišťování excelových funkcí a podobně.
• Na tyto nástroje nespoléháme při zjišťování či ověřování faktických informací. Všechny texty a informace generované AI zpětně kontrolujeme, protože modely si občas přesvědčivě vymýšlí.
• Při využití veřejně dostupných jazykových modelů dbáme na ochranu osobních údajů a citlivých interních informací. Nikdy do nich nezadáváme osobní údaje a jakékoli další interní informace.
• Negenerujeme a nepoužíváme texty vytvořené umělou inteligencí mechanicky a bez důvodu. Nechceme zvyšovat produkci na úkor kvality nebo nahradit osobitost průměrem. Nástroje AI mají napomáhat tomu, aby naše texty byly ve výsledku lepší, než kdybychom je psali sami.
• Za texty vytvářené s pomocí AI ručí vždy zaměstnanec a podepisuje je vlastním jménem.
• Dbáme na bezpečnost dětí. Podle pravidel ChatGPT její aplikaci nemají samostatně používat děti do 13 let, ani kdyby měly souhlas zákonného zástupce. Děti od 13 let mohou ChatGPT se souhlasem zákonného zástupce využívat, i tady se ale doporučuje dohled.

Využití generátorů obrazů, videa a audia

• Nikdy negenerujeme obrazy, videa či audia tak, aby mohly být chápány jako dokumentace naší činnosti a vytvářely falešný dojem o reálných událostech nebo o naší práci. Audiovizuální materiál v našich výstupech není pouhou ilustrací aktivit, které děláme, ale dodává jim věrohodnost, kterou nesmíme ohrozit.
• Nikdy zpětně neupravujeme existující fotografie, videa či audia s využitím nástrojů AI, vyjma technických a stylistických úprav bez zásahu do obsahu nebo v odůvodněných případech pro anonymizaci osob či míst kvůli zajištění bezpečnosti. V takovém případě transparentně informaci o jejich využití uvádíme spolu s obrazem, videem či audiem.
• Nikdy negenerujeme obrazy, videa či audia, u kterých by mohlo dojít k záměně s médiem fotografie, videozáznamu nebo záznamu reálného zvuku. Přípustnou výjimkou jsou situace, kdy pro vzdělávací účely chceme ilustrovat schopnosti nástrojů AI – v takovém případě transparentně uvádíme informaci o jejich využití.
• Generátory obrazů, videí či zvuku můžeme využít pro vytváření kreseb a ilustrací, zvláště v tvorbě napodobující ruční či digitální umělecké styly a v grafickém designu. V takovém případě zjišťujeme, že jsme oprávněni je daným způsobem použít a transparentně informaci o jejich využití uvádíme spolu se jménem autora.

Využití dalších nástrojů AI

• Při dodržení kodexu a podmínek výše můžeme využívat mnoho dalších nástrojů AI pro zkvalitnění a zefektivnění naší práce. Nabízí se například nástroje pro tvorbu prezentací, přepisovače mluveného slova na text, pomocné nástroje pro evaluaci, automatizaci, programovaní, práci s databázemi, personalizaci nebo boj s dezinformacemi. Ve všech případech využití nástrojů AI zvažujeme účelnost a rizika v souladu s hodnotami organizace a celkovým přínosem.

Ochrana dat

• Do veřejně přístupných AI nástrojů zadáváme jen takový obsah, který bychom se nebáli zveřejnit kdekoli na internetu, tedy u kterých nehrozí únik citlivých informací. Platí to i pro aplikace nebo služby, ke kterým se připojujeme svým soukromým účtem.