Největší rizika zneužití umělé inteligence

Mozek zpracovávající obrovské množství informací se zároveň učí z výsledků svých činů a nikdy neodpočívá. Lidská genialita tedy opravdu dokázala stvořit něco, co převyšuje její vlastní schopnosti, ale odborníci upozorňují, že takovýto pokrok může být i zničující, pakliže dojde k jeho zneužití. Není to poprvé, co slýcháme toto apokalyptické varování. Tentokrát však pochází od skupiny odborníků na umělou inteligenci, kteří tyto hrozby pojmenovávají pravými jmény v podrobné studii uveřejněné na internetu a vyzývající k debatě.

Odborníci varují, že zlomyslné užívání umělé inteligence je již realitou, a že se můžeme stát oběťmi její zničující moci, ačkoli ne v takové podobě, jakou jsme zvyklí vídat v hollywoodských filmech. Studie poukazuje na možné negativní dopady v oblastech, jakými jsou počítače a servery, manipulace veřejného mínění a útoky ze strany robotů.

Z hlediska první oblasti představuje reálné nebezpečí především takzvaný phising, tedy automatizovaný systém vytvářející falešné e-mailové zprávy, které následně rozesílá s cílem získat citlivá data o jednotlivých uživatelích, přičemž zohledňuje současné trendy a zranitelná místa. Rovněž je třeba pamatovat i na případné hackerské útoky, jelikož hackeři jsou při hledání nedostatků v systémech neúnavní.
Veřejné mínění může být naproti tomu manipulováno masivním šířením lživých zpráv po síti. Například platforma Twitter již přijala patřičná opatření poté, co objevila miliony tweetů určených k zahlcení sítě propagandistickým obsahem podporujícím nezávislost konkrétních regionů.

Co se týče možného napadení ze strany robotů, nelze předpokládat, že by se jednalo o výjevy v podobě střílejících robotů v ulicích. Studie však počítá s rizikem napadení za použití komerčních dronů nebo předem naprogramovaných autonomních, neboli samořídících vozidel.