Facebook lopettaa kokeilun sen jälkeen, kun tekoäly on keksinyt oman kielen
Tutkijat lopettavat projektin sen jälkeen, kun koneet kehittävät oman tavan kommunikoida ihmisille käsittämättömällä tavalla
Älykkäät robotit suorittavat yhä enemmän rooleja
Getty Images
Bob: voinko minä kaiken muun. . . . . . . . . . . . . .
Alice: pallot ovat nolla minulle minulle minulle minulle minulle minulle minulle minulle minulle minulle
Bob: sinä minä kaikki muu. . . . . . . . . . . . . .
Alice: palloilla on pallo minulle minulle minulle minulle minulle minulle minulle minulle minulle
Bob: minä voin minä voin kaiken muun. . . . . . . . . . . . . .
Alice: palloilla on pallo minulle minulle minulle minulle minulle minulle minulle minulle minulle
Huolimatta siitä, että tämä keskustelu näyttää todella kauhean televisiosarjan käsikirjoitukselta, tämä keskustelu tapahtui kahden tekoälyohjelman välillä, jotka on kehitetty Facebookissa neuvottelutaidon parantamiseksi.
Aluksi kaksikko puhui toisilleen tavallista englantia. Mutta sitten tutkijat huomasivat tehneensä virheen koneiden ohjelmoinnissa.
'Englannin kielen pitämisestä ei ollut palkintoa', kertoi Georgia Techin vieraileva tutkija Dhruv Batra Facebook AI Researchissa (Fair). FastCo .
Kun nämä kaksi agenttia kilpailivat saadakseen parhaan tarjouksen, 'kummallakaan ei tarjottu minkäänlaista kannustinta puhua normaalin ihmisen tavoin', FastCo sanoo.
Niinpä he alkoivat erota toisistaan ja lopulta järjestivät ymmärrettävät sanat uudelleen näennäisesti järjettömiksi lauseiksi, mikä johti kokeen keskeyttämiseen.
Facebookin oli suljettava tekoäly, koska se kehitti oman kielensä pic.twitter.com/EsVEkWViTv
— NowThis (@nowthisnews) 31. heinäkuuta 2017
'Agentit (tai ohjelmat) ajautuvat pois ymmärrettävää kieltä ja keksivät koodisanoja itselleen', Batra selitti. 'Kuten sanoisin 'the' viisi kertaa, tulkitset sen tarkoittavan, että haluan viisi kopiota tästä esineestä. Tämä ei eroa niin paljon tavasta, jolla ihmisyhteisöt luovat lyhenteitä.
Mutta tutkijat halusivat korostaa, että kokeilua ei hylätty robottien kommunikoivien mahdollisten kielteisten vaikutusten takia.
Reilu tutkija Mike Lewis kertoi FastCo:lle, että he olivat yksinkertaisesti päättäneet, että 'etumme oli saada botteja, jotka voisivat puhua ihmisille', eivät tehokkaasti toisilleen, ja päättivät siksi vaatia heitä kirjoittamaan toisilleen luettavasti.
Tämä ei ole ensimmäinen kerta, kun tekoälykoneet ovat luoneet oman kielensä.
Viime vuoden marraskuussa Google paljasti, että sen käännöstyökalussaan käyttämä tekoäly oli luonut oman kielensä, josta se kääntäisi lauseita sisään ja ulos ennen sanojen toimittamista kohdekielellä.
Raportoi tuolloin tapahtuneesta kehityksestä, Tech Crunch sanoi: 'Tämä 'interlingua' näyttää olevan syvempi esityksen taso, joka näkee yhtäläisyyksiä lauseen tai sanan välillä.'
'Se voi olla jotain hienostunutta tai se voi olla jotain yksinkertaista', lisäsi verkkosivusto, mutta 'se tosiasia, että se on olemassa - järjestelmän oma alkuperäinen luomus, joka auttaa ymmärtämään käsitteitä, joita ei ole koulutettu ymmärtämään — on filosofisesti sanottuna aika voimakasta tavaraa.
Tämä viimeaikainen kehitys on johtanut eettisiin keskusteluihin koneiden mahdollisista ongelmista, jotka kommunikoivat keskenään ilman ihmisen puuttumista.
'Facebookin tapauksessa chatbotit pystyivät vain keksimään tehokkaamman tavan käydä kauppaa', sanoo Gizmodo .
Mutta on 'luultavasti hyviä syitä olla antamatta älykkäiden koneiden kehittää omaa kieltään, jota ihmiset eivät pysty ymmärtämään mielekkäästi', verkkosivusto lisää.
'Toivottavasti ihmiset ovat myös tarpeeksi älykkäitä olemaan kytkemättä kokeellisia koneoppimisohjelmia johonkin erittäin vaaralliseen, kuten laserilla lentelevien androidien armeijaan tai ydinreaktoriin.'
