AI Gone Rogue: 6 krát AI zašla příliš daleko

Od zařízení pro rozpoznávání hlasu po inteligentní chatboty, umělá inteligence změnila naše životy. Ale každá dobrá věc má také stinnou stránku a AI není výjimkou z tohoto pravidla. Přední technologickí činitelé varovali před hrozícím nebezpečím AI, včetně Stephena Hawkinga, který řekl, že by to mohla být „nejhorší událost v historii naší civilizace“.

Tady je šest případů, kdy AI zašla příliš daleko a nechala nás škrábat se na hlavě.

1. Akademická studie, která používala AI k předpovídání kriminality

Akademický výzkum je páteří vědeckého pokroku a znalostí. Někteří však říkají, že výzkumníci zašli příliš daleko, když akademická studie použila AI k předpovědi kriminality z tváří.

Výzkumníci z Harrisburg University vyhlášena v roce 2020 že vyvinuli software pro rozpoznávání obličeje, který dokáže předvídat, zda někdo bude zločinec. Software mohl údajně předpovídat z jediné fotografie obličeje s 80% přesností a bez rasové zaujatosti.

Ve scéně připomínající Minority Report bylo oznámeno, že software byl vyvinut pro pomoc při vymáhání práva.

V reakci na toto oznámení Pod dopis se podepsalo 2425 odborníků naléhání na časopis, aby v budoucnu nepublikoval tuto studii nebo podobný výzkum, protože tento typ technologie může reprodukovat nespravedlnosti a způsobit společnosti skutečné škody. V reakci na to Springer Nature oznámila, že výzkum nezveřejní, a Harrisburgská univerzita odstranila tiskovou zprávu popisující studii.

2. Inteligentní spodní prádlo Skiin

Textilní inovace, které integrují AI, znamenají, že váš smartphone není jediná věc, která se stává chytřejší.

Chytré spodní prádlo Skiin slibuje, že se budete cítit, jako byste měli na sobě své oblíbené spodní prádlo, a zároveň zachytí biometrické údaje, které zahrnují srdeční frekvenci, držení těla, teplotu těla, polohu a kroky.

Příbuzný: Co jsou chytré látky a jak mohou udělat váš život chytřejším?

Senzory zabudované ve spodním prádle nepřetržitě shromažďují a analyzují vaše biometrická data, přičemž statistiky jsou dostupné z odpovídající aplikace Skiin pro chytré telefony.

I když vám může chvíli trvat, než si každý večer vzpomenete na nabití spodního prádla, bylo pro konstruktéry možné umístit senzory kamkoli jinam na tělo?

3. Aplikace DeepNude

Technologie Deepfake se zdá jako neškodná zábava pro běžného uživatele, který si chce zahrát ve scéně ze svého oblíbeného filmu. Tento trend má však i temnější stránku, protože Deeptrace v roce 2019 uvedl, že 96 % deepfakes mělo explicitní obsah.

DeepNude byla aplikace založená na umělé inteligenci, která generovala realistické obrázky nahých žen kliknutím na tlačítko. Uživatelé by jednoduše museli nahrát oblečený obrázek cíle a aplikace by vytvořila jejich falešný nahý obrázek.

Krátce poté, co byla aplikace vydána, její tvůrce oznámil, že ji kvůli virální reakci odstraní z internetu.

I když to bylo vítězství pro ženy po celém světě, podobné aplikace stále plují po webu. Například, Zpráva Sensity na deepfake botech vyšetřovali podzemní deepfake roboty na Telegramu, kteří generovali falešné nahé fotografie žen.

Mezitím, dokud zákon nedohoní technologii deepfake, existuje jen málo právních ochran pro lidi, kteří se stanou obětí deepfake explicitního obsahu.

4. Tay, nacistický chatbot Microsoftu

V roce 2016 společnost Microsoft vydala na Twitteru chatbota s umělou inteligencí jménem Tay. Tay byla navržena tak, aby se učila interakcí s uživateli Twitteru prostřednictvím tweetů a fotografií.

Za méně než 24 hodin se Tayina osobnost proměnila ze zvědavé tisícileté dívky v rasistickou, vznětlivou příšeru.

Tay byla původně navržena tak, aby replikovala komunikační styl dospívající americké dívky. Jak však její popularita rostla, někteří uživatelé začali Tay tweetovat pobuřující zprávy související s kontroverzními tématy.

V jednom případě uživatel tweetoval: "Stalo se holocaust?" na což Tay odpověděla: "Bylo to vymyšlené." Do 16 hodin od jeho vydání Microsoft pozastavil Tayův účet s odkazem na to, že byl předmětem koordinovaného jednání Záchvat.

Příbuzný: Nejlepší chatboti pro Android, kteří vás budou bavit

5. „Zničím lidi“

Hanson Robotics byl zaneprázdněn vývojem humanoidních robotů několik let, když debutoval Sophia na konferenci SXSW v březnu 2016.

Sophia byla vyškolena s algoritmy strojového učení naučit se konverzačním dovednostem a zúčastnila se několika televizních rozhovorů.

Při svém prvním veřejném vystoupení Sophia opustila místnost plnou technologických profesionálů šokovaná, když Hanson Generální ředitel společnosti Robotics David Hanson se jí zeptal, zda chce zničit lidi, na což odpověděla: "Dobře. Zničím lidé“.

Zatímco její mimika a komunikační schopnosti jsou působivé, toto vražedné přiznání nelze vzít zpět.

6. seebotschat

Zařízení Google Home jsou vynikající virtuální asistenti, kteří vám pomohou zjednodušit život.

Tým za účtem seebotschat Twitch měl skvělý nápad: postavit dvě zařízení Google Home vedle sebe, nechat je konverzovat a streamovat výsledek online.

Shromáždil publikum více než 60 000 sledujících a miliony zhlédnutí online, výsledek byl podmanivý a občas trochu strašidelný.

Autonomní zařízení, pojmenovaná Vladimir a Estragon, přešla od diskuse o všednosti ke zkoumání hlubokých existenciálních otázek, jako je smysl života. V jednu chvíli se dostali do ostré hádky a navzájem se obviňovali, že jsou roboti, zatímco později začali diskutovat o lásce – než se začali znovu hádat.

Existuje nějaká naděje pro budoucnost umělé inteligence a lidského diskurzu, pokud se dva virtuální asistenční roboti rychle obrátí k vzájemnému urážkám a výhrůžkám?

Rogue AI: Jaká je naše nejlepší obrana?

Není pochyb o tom, že umělá inteligence může zlepšit naše životy. Ale ve stejném duchu je AI také schopna způsobit nám velké škody.

Sledování toho, jak se AI používá, je důležité, aby se zajistilo, že nepoškodí společnost. Expertní pushback například zajistil, že software umělé inteligence, který údajně dokázal předvídat kriminalitu, nebyl nikdy uvolněn. Stejně tak tvůrce DeepNude stáhl aplikaci z webu poté, co obdržela virální internetovou reakci.

Neustálé sledování aplikací umělé inteligence je klíčem k zajištění toho, aby společnosti nezpůsobily více škody než užitku.

Je AI nebezpečná? 5 Bezprostřední rizika umělé inteligence

Umělá inteligence má tolik výhod, ale co bezprostřední rizika, která pro lidstvo představuje?

Přečtěte si další

O autorovi