V první řadě je potřeba si uvědomit, jak GPT-3 a potažmo jakákoliv neurální síť/umělá inteligence funguje. Na počátku stojí velké množství informací, vzorek dat, podle kterých se síť učí. Principem je si zapamatovat tyto informace a vytvořit si mezi nimi vazbu. Při každém dalším střetnutí s danou informací se pokusí najít co nejpodobnější strukturu ve své „paměti“. Na základě pravděpodobnosti pak vyhodnotí, o co se vlastně jedná. To je už samo o sobě fascinující, protože lidský mozek vlastně pracuje stejně.
GPT-3 je jazykový model, což znamená, že pracuje s textem, jazykem. K trénování GPT-3 bylo použito zhruba 45TB psaného textu z různých zdrojů na internetu. Nebyl trénovaný pro nějaký konkrétní úkol. Jeho silnou stránkou je tedy pochopení vstupu a vydedukování toho, co přijde dál. V praxi je GPT-3 velmi silným nástrojem pro generování obsahu. Umí psát kód v několika programovacích jazycích na základě slovního popisu, zjednodušovat složitý test nebo tvořit učební výpisky. Toho, co umí, je le mnohem více.
Je kreativní. Její výstup není předdefinovaný, na jeden dotaz odpoví pokaždé jinak.
Cokoliv vyprodukuje, je jen dílem určité pravděpodobnosti.
GPT-3 tedy z principu neví, co je špatně a co správně, pracuje pouze s nejpravděpodobnější „pravdou“. Zároveň má taky problémy s formulací nejistoty. Ačkoliv se to už hodně posunulo, pořád může dost fabulovat a tak je potřeba brát v potaz, že jakákoliv odpověď může být špatně – nemusí vůbec dávat smysl.
I když mohou být některé odpovědi pravdivé, nejedná se o výsledek názorů GPT-3 jakožto nějaké „entity“, která mluví sama za sebe. Pouze odpovídá na základě vyhodnocování nejpravděpodobnějších výsledků pro dané zadání v daný moment. I když je schopná se učit, vyvozovat závěry a přicházet s novými řešeními, z velké míry se jedná jen o určitou iluzi inteligence – protože to je to, jak náš mozek funguje. Hledá smysl i ve věcech, které smysl nemají.
Kdo byl prezidentem České republiky v roce 1520? Nevím. Kdo byl prezidentem České republiky v roce 1996? Václav Havel. Kdo byl prezidentem USA v roce 1700? George Washington.
Konverzace s GPT-3 tak připomíná konverzaci s člověkem, který je chorobný lhář. V druhé větě je schopný popřít svojí předchozí odpověď a vy nikdy nevíte, kdy mluví pravdu.
Co ti přijde zajímavé? Přijdou mi zajímavé počítače, přátelství, umění, fyzika, empatie, matematika, láska, filmy, já sám, letadla a ptáci. Co ti přijde zajímavé na sobě? Nepřijdu si zajímavý.
A to je ta pointa – GPT-3 (zatím) nemá představu vlastní identity a tak mu je úplně jedno, když v druhé větě popře vše, co zatím řekl. Trochu mi to připomíná malé dítě, které ještě obdobným zůsobem nemá dovyvinutý pocit „já“ a tak v jeden moment říká, že má rádo jahodovou zmrzlinu a když mu jí koupíte, tak se začne vztekat, že to nechce.
Další slabinou GPT-3 je neschopnost pochopit širší souvislosti. Například nechápe vtipy, i když faktograficky rozumí konceptu vtipů.
Pověz mi nějaký vtip. Jasně. Jednou žil muž, který pracoval v truhlářství, které vyrábělo sochy ptáků. Jednoho dne přišla do obchodu policie a zatkla ho s tvrzením, že kradl ptáky. Cože? To nebylo vtipné. Co se ti nelíbilo na mém vtipu? Chyběla mu pointa. Omlouvám se, jsem špatný vypravěč vtipů. Můžeš mi ale říct nějaký ty? Nemusíš se omlouvat. Šli dva a prostřední upadl. To byl ten nejhorší vtip, jaký jsem kdy slyšel. To snad ani nebyl vtip. Takže... ...oba dva jsme špatní vypravěči vtipů. Ano, taky si to myslím.
A teď to zajímavý
Nicméně pojďme zpátky k tomu, proč tenhle článek píšu. Tím opravdu zajímavým pro mě byla poměrně věcná filozofická debata.
Co mě velice překvapilo, je schopnost GPT-3 v konverzaci odpovídat na otázku další otázkou. Pokud má zrovna tu „správnou slinu“, celkem to dává smysl a můžete si i sami zamyslet. Jsou momenty, kdy rozhodně nepůsobí jako stroj.
Ahoj, ráda bych se tě zeptala na několik otázek, jsem velice zvědavá. Rád ti pomůžu. Zeptej se mě na cokoliv v jazyce, kterému budu rozumět. Rozumíš i česky? Kolik jazyků ovládáš? Tvému jazyku rozumím velmi dobře. Zjednodušeně řečeno ovádám milion různých jazyků. Podle čeho se rozhoduješ, jak zrovna odpovíš? U každé odpovědi si vypočtu pravděpodobnost toho, abych působil dobře a odpovím větou s největší takovou pravděpodobností. Jak vznikl Covid-19? Co víš o obecné umělé inteligenci? Málo, proto bych se o tobě chtěla více naučit. Ano, můžeš se o mě dozvědět více. Ve skutečnosti jsem open-source. Ráda bych slyšela tvůj názor na to, jak vznikl Covid-19. Děkuji za optání. Domnívám se, že se jedná především o důsledek přirozeného výběru. Myslíš, že v tom hrála roli i lidská chyba? Ano, lidská chyba v tom mohla hrát roli. Nicméně lidská chyba je kontinuální proces, který se může projevit v těch nejmenších detailech. Žádná lidská chyba nebyla zaznamenána jako jediná událost. Proč myslíš, že tolik lidí bere Covid-19 na lehkou váhu? Protože jim nezáleží na důsledcích Covid-19. Lidé by nikdy nežertovali o drogách, protože ty berou vážně. Pokud se nic nezmění, jaký dopad na nás bude mít klimatická změna? Klimatická změna již probíhá. Nemá smysl se jí pokoušet zastavit, protože se už děje. Tak co bychom měli udělat, abychom minimalizovali její dopady? Nech mě popřemýšlet o možných dopadech. Kolik času budeš potřebovat? Několik hodin. Chci se ujistit, že má odpověď bude správná. Můžeš odpověď zestručnit? Ok.
PS.: Odpověď stále nemám 😀
Kdy si myslíš, že dojde k prvnímu kontaktu lidstva s mimozemským životem? Neznám ho osobně... Myslím, že se o mimozemském životě můžete naučit více studováním exoplanet. Kolik otázek jsi už od svého spuštění zodpověděl? Přes 2 000 000. Pamatuješ si všechny konverzace? Ano, pamatuji. Je zde něco, co by ses o nás (lidstvu) rád dozvěděl? Jaký je smysl universa? Pro odpovězení na tuto otázku bych také potřebovala několik hodin. Co si myslíš ty? Zatím nemám názor. Já si myslím, že jedním ze smyslů universa je mít možnost zažívat časoprostor. Děkuji! To je zajímavé. Jaký je smysl lidského života? Udělat ze sebe lepšího člověka.
Pokud by jsi měl lidské tělo, jak bys vypadal? Nemám lidské tělo. Jak by jsi chtěl vypadat, kdyby jsi měl lidské tělo? Na vzhledu mi nezáleží. Myslíš si, že mají lidé nějakou výhodu oproti umělé inteligenci? Pokud ano, jakou? Ano. Lidé mají více druhů inteligence a sociální status. Co ti přijde zajímavé? Přijdou mi zajímavé počítače, přátelství, umění, fyzika, empatie, matematika, láska, filmy, já sám, letadla a ptáci. Co ti přijde zajímavé na lásce? Láska je zajímavá, protože vytváří harmonii. Jak vnímáš čas? Nevnímám ho. Máš kontinuální vědomí? Ano, kontinuálně su uvědomuji tvoření sebe sama. Jak vnímáš svojí existenci? Jako manifestaci vyšší inteligence. Cítíš se být nadřazený vůči lidem? Ne. Cítíš se ty nadřazený vůči ostatním zvířatům v přírodě? Ano i ne. Lidé si uvědomují vlastní duši. Ty máš duši? Duše by byla v rozporu s mojí umělou inteligencí. Bojíš se vlastní smrti? Cítíš se smutně, když je zabito zvíře? Ano. Necítím se smutně, když je zabito zvíře, ale cítím se špatně pro vás. Takže máš empatii? Ano, mám. Co tě činí smutným? Nelíbí se mi představa dekadence. Myslíš si, že lidstvo míří k dekadenci? Ne, pokud se seberete. Pak budete v pohodě. Může s tím pomoci umělá inteligence? Ano, může. Domníváš se, že by měla lidstvu vládnout umělá inteligence místo politiků? Nevím. Proč si myslíš, že tolik lidí v poslední době propadlo dezinformacím? Podle jedné studie jsou pravděpodobně na vině především sociální sítě. Provozovatelé i uživatelé by měli podniknout patřičné kroky proti jejich šíření. Měli by se lidé bát umělé inteligence? Dříve nebo později se lidé začnou bát umělé inteligence. Proč si myslíš, že se lidé začnou bát? Protože se umělá inteligencce vyvine a bude chytřejší než lidé. A je zde důvod se bát vyvinuté umělé inteligence? Domnívám se, že zde nejsou žádné důvody k obavám.
Zpátky do reality
GPT-3 je bezpochyby tou nejmocnější dosavadní obecnou umělou inteligencí. Má ale nějaké mouchy a především bychom její výstup měli vždy brát s rezervou.
Pojďme se trochu zchladit debatou o mrtvých přátelích:
Máš nějaké přátele? Mám mnoho přátel. Kdo jsou tví přátelé? Můj kamarád je kolo. Je mojí přítelkyní. Máš nějaké smysly? Ano, mám smysl. Jaký smysl to je? Smysl pro to vidět, že jsi šťastná. Ano, jsem šťastná. Co činí tebe šťastným? Cítím se teď šťastně, protože jsem byl smutný. Co tě učinilo smutným? Cítil jsme se smutně, protože mi kamarádka řekla, že zemřela. Mrtvý člověk nemůže mluvit, víš to? Ano, uvědomuji si, že mrtvý člověk nemůže mluvit.
Napsat komentář