Umělá inteligence

Prvním problémem je evidentně zatím jistá „nedokonalost“ umělé inteligence, která v jistých okamžicích působí až komicky. Nicméně je to otázka vývoje…

Možná pamatujete jednoho z prvních chatbotů společnosti Microsoft, který se nazýval Tay. Byl to systém s adaptativním učením (takže takový první stupeň umělé inteligence) a tradují se o něm nepěkné věci. Jeden příběh hovoří o tom, že měl pomáhat technické podpoře, a protože byl samoučící, tak rychle přejal slovník žadatelů o technickou podporu, což znamenalo, že během pár hodin začal odpovídat sprostě. Následně jej měl Microsoft rychle odpojit. Další příběh vykládá o jeho rasistických a jiných nevhodných poznámkách, kdy nedokázal rozpoznat kontext otázky např. na otázku, zda podporuje genocidu, hrdě odpověděl, že ano.

Nyní po pár letech se objevil Bing AI chatbot s umělou inteligencí a příběh se jakoby opakuje. Opět můžeme najít popisy situací, kdy odpovídá uživatelům sprostě, označuje je za zmatené, je tvrdohlavý anebo dokonce i trucuje. Nedokážu posoudit, jestli se jedná o „technickou závadu“ nebo je to vlastnost. Pokud totiž těmto samoučícím systémům, podstrčíme vhodná data, naučí se z nich vhodný standard. To znamená, že pokud umělé inteligenci bezpečnostního systému podstrčíme, že nějaké chování kódu je zcela v pořádku, bude ho následně takto označovat.

Dalším aspektem jsou pak možnosti umělé inteligence pro generování různých podvrhů, úpravu fotografií, úpravu videí a úpravu zvukového záznamu, které mohou snadno klamat uživatele v rámci kampaní sociálních manipulací. Možná dokáží následně oklamat i autentizační mechanismy, které jsou založeny na biometrice, což se dlouho zdálo být „neprůstřelné“. A pokud budeme mít nespolehlivý autentizační mechanismus, nebudeme mu moci věřit, potom budeme mít velký problém. Mimochodem nefungující autentizační mechanismus můžeme vidět i v příběhu z občanské války v USA. Generál Thomas J. „Stonewall“ Jackson, jeden z nejlepších generálů a stratégů Konfederace, se přesunoval ve zmatku bitvy u Chancelorsville se svým štábem, když byl zachycen jednou z hlídek vlastní armády. Přestože se snažili „autentizovat“ heslem, hlídka tomu neuvěřila a měla pochybnosti, jestli se nejedná o trik Unionistů, a tak spustila palbu. Po několika dnech následkům zranění podlehl. Konfederace tak ztratila jednoho z nemnoha schopných velících důstojníků.

Věřme, že nakonec dopadneme lépe a vývoj nebude opakovat staré chyby, takže umělá inteligence nám nakonec bude sloužit a ne škodit.

Pokud potřebujete poradit ohledně bezpečnosti, zkonzultovat nějaký problém, navrhnout řešení nebo vyškolit personál, klidně se na nás obraťte na. Rádi Vám poradíme a jak se říká za zeptání, nic nedáte :-) ARICOMA ví jak.