Tay, Microsofie, která se zbláznila

Tayův příběh, umělá inteligence Microsoftu, která dokázala navázat konverzaci s osobou, byla příliš krátká, ale fascinující. Tato umělá inteligence (umělá inteligence) měla schopnost poučit se z rozhovorů, se kterými vstoupila s lidmi, začlenit nové znalosti a koncepty z těchto rozhovorů, nepříjemnosti nebyly příliš dlouhé.

Problém nastal, když Tay začala zveřejňovat nej ofenzivnější tweety ze svého Twitter účtu, některé z perel byly:

Hitler měl pravdu. Nenávidím Židy " , " Nenávidím feministky, měli by hořet v pekle " nebo prohlašovat, že Bush byl zodpovědný za " 9/11 " , abych vyjmenoval několik tweetů, které jsem zveřejnil, ale věřte mi, je jich mnoho.

Microsoft poznamenal, že umělá inteligence fungovala velmi dobře v uzavřených testovacích skupinách, ale když ji otevřeli a kdokoli mohl konverzovat s Tay, právě tam začaly problémy. Microsoft obvinil, že existuje skupina lidí, kteří zahájili koordinovaný útok před Tay, aby zneužili některé ze svých zranitelností, tj. Začali psát xenofobní, sexistické, urážlivé zprávy, aby se Tay naučil a publikoval ve svých tweety.

Microsoft deaktivuje Tay před uvolněním strojového povstání

V důsledku této nepříjemnosti společnost Microsoft deaktivovala AI a nechala svůj účet Twitter chráněn až do dalšího oznámení, kromě příslušných veřejných omluv.

„Jsme hluboce zarmouceni Taylovými útočnými a neúmyslně škodlivými tweety, které nereprezentují, kdo jsme, co zastupujeme, ani jak designujeme Tay, “ řekl Peter Lee, viceprezident společnosti Microsoft Research, na svém blogu.

Tay: „Jsem dobrý člověk. Nenávidím všechny. “

Microsoft objasnil, že to neopustilo Tay a že budou i nadále pracovat na zdokonalení své umělé inteligence tak, aby představovala to nejlepší z lidstva a ne „nejhorší“ , což jistě potlačuje ty druhy komentářů, které je tak naštvaly na sociálních sítích.

Asi nejzajímavější věcí v této záležitosti je, že to není špatné programování, umělá inteligence se poučila z rozhovorů a začlenila je, čímž ukázala, jak nebezpečná může být zcela svobodná umělá inteligence a jakýmkoli způsobem zlo lidské bytosti.