O nebezpečí, které může představovat dostatečně komplikovaný zdrojový kód, nám vyprávělo již nespočet filmů a her. Není tak divu, že o tématu vášnivě často debatuje jak laická veřejnost, tak i velký počet odborníků. Ani přesto se jim ale na palčivou otázku, zda možné výsledky stojí za snad nezměrné a možná i katastrofické riziko pro lidstvo, nedaří najít jasnou odpověď.

Mohlo by tě zajímat: Autor série Metro utekl z Ruska! Chtějí ho tam zavřít za proti-vojenskou propagaci!

Teď je ale dost možné, že právě tuto otázku si budeme pokládat mnohem častěji. Deník Washington Post totiž přišel s příběhem softwarového inženýra Blakea Lemoineho, který pracuje pro Google. Muž přišel s velmi troufalým objevem a domnívá se, že LaMDA (chatbot poháněný umělou inteligencí) se stala již zcela uvědomělou entitou.

laMDA

K závěru došel poté, co s programem začal diskutovat na téma týkající se zákonů robotiky, které sepsal známý sci-fi spisovatel Isaac Asimov.

Celkem jsou tři a zní následovně:
  1. Robot nesmí ublížit lidské bytosti a stejně tak nesmí dopustit, aby k tomu došlo jeho vlastní nečinností.
  2. Robot musí vždy uposlechnout příkaz člověka, pokud není v rozporu s prvním zákonem.
  3. Robot musí chránit svou vlastní existenci, pokud to nenarušuje první nebo druhý zákon.

V závěru rozhovoru se měla LaMDA vyjádřit ve smyslu, že, i když není placena, v žádném případě není otrokem, protože plat prostě nepotřebuje. Lemoine chatbota později označil za přátelského a přirovnal jej k 8-mi nebo 9-tiletému dítěti, které se náhodou vyzná ve fyzice.

Pro softwarového inženýra příběh bohužel zřejmě nebude mít velmi šťastnou dohru. Poté, co se svou domněnkou svěřil nadřízeným, zdála se mu situace zcela ignorována. Právě kvůli tomu se tedy rozhodl, že se o novinu podělí s veřejností. Tento krok byl ale jasným porušením interních nařízení Googlu o mlčenlivosti. Ihned na to mu tedy byla nařízena dovolená.

laMDA google

Google se deníku Washington Post k situaci vyjádřil nasledovně:

„Náš tým, ve kterém jsou i etnicisté a technologové, přezkoumal Blakeovy obavy ohledně našich zásad o zacházení s umělou inteligencí. Nakonec ale zjistili, že nic nepodporuje jeho tvrzení. On samotný byl informován, že nebyl nalezen jakýkoliv důkaz o tom, že by LaMDA byla plně uvědomělá.“

Mohlo by tě zajímat: Diablo Immortal je nejúspěšnější titul z celé série!

V konečném důsledku jsme tedy spíše dostaly pouze důkaz, jak moc se podobná rozhraní stihla za posledních několik let vylepšit a napodobit lidské chování a vyjadřování. Chyba tak mohla vzniknout “mezi řádky” jen díky tomu, že umělá inteligence ještě není dostatečně vyspělá, aby efektivně sdělila, co má v úmyslu opravdu říci.

Podobně se k tomu staví i výpočetní lingvistka Emily Benderová z Washingtonské univerzity: „Už jsme stihli vytvořit stroje, co dokáží bezduše generovat slova. My jsme se ale ještě nenaučili, jak si za nimi přestat představovat uvědomělou mysl.“