Skip to content

Miksi kuolleiden ihmisten chatbottien rakentaminen on huono idea

8 de heinäkuu de 2021

Tärkeimmät takeaways

  • Microsoft on tiettävästi kehittämässä tekniikkaa, joka voisi jonain päivänä sallia chatbottien perustuvan kuolleiden ihmisten persoonallisuuksiin.
  • Äskettäin yritykselle myönnetyssä patentissa kuvataan botin rakentaminen verkkoon lähetetyistä tiedoista, mukaan lukien kuvat ja sosiaalisen median viestit.
  • Jotkut tarkkailijat sanovat, että todellisiin persoonallisuuksiin perustuvien chat-robottien rakentaminen voi vaikuttaa väärennettyjen uutisten nousuun.
Uusi tekniikka voisi jonain päivänä antaa chatroboteille mahdollisuuden jäljitellä kuolleiden henkilöitä. Mutta jotkut tarkkailijat sanovat, että tällaiset robotit voivat vaikuttaa väärennettyjen uutisten nousuun.

Itsenäinen raportoi, että Microsoftille on myönnetty patentti tekniikoista, jotka antavat yritykselle mahdollisuuden rakentaa botti käyttämällä ihmisten ”kuvia, äänitietoja, sosiaalisen median viestejä, [and] sähköiset viestit. ”Ihmiset voisivat jopa tehdä itsestään botin patentin menetelmiä käyttäen. Jotkut asiantuntijat sanovat, ettei niin nopeasti.” Teknologia, joka antaisi Microsoftin kaltaisille yrityksille tai korruptoituneille hallituksille tai organisaatioille mahdollisuuden luoda chatbotteja kuolleista henkilöistä, on pelottava mahdollisuus ”, Floridan yliopiston sosiaalisen median professori Andrew Selepak sanoi sähköpostihaastattelussa.” Se antaisi näiden yritysten tai hallitusten mahdollisuuden muuttaa suhtautumistamme kuolleeseen ja muuttaa sitä, mitä vainaja on sanonut ja tehnyt. ”

Rakenna itsellesi botti

Microsoftin patentti kuvaa robotin luomisen digitaalisen tiedon perusteella. ”Tarkka henkilö [who the chatbot represents] voi vastata aikaisempaa tai nykyistä kokonaisuutta (tai sen versiota), kuten ystävä, sukulainen, tuttava, julkkis, kuvitteellinen hahmo, historiallinen hahmo, satunnainen kokonaisuus jne. ”, patenttihakemus kertoo. Patentti ehdottaa myös, että elävät käyttäjät voivat ohjelmoida itsensä korvaamaan sanomalla: ”Tietty henkilö voi myös vastata itseään (esim. Käyttäjä, joka luo / kouluttaa chatbotia.” ”On aivan liian mahdollista, että ihmiset luovat myös henkilöitä, jotka perustuvat tummemmat hahmot, kuten Adolf Hitler. ”Microsoftin bottitekniikka on vasta uusinta pitkässä joukossa erittäin teoreettisia ja mahdollisesti hahmottavia kokeita, jotka pitävät ihmisten persoonallisuudet hengissä kuoleman jälkeen. Esimerkiksi Nectome pyrkii säilyttämään aivot muistin purkamiseen kemikaalin avulla. Toinen MIT: ssä käynnissä oleva projekti, nimeltään Augmented Eternity, kartoittaa yksilön heidän digitaalisten vuorovaikutustensa perusteella ja antaa heille mahdollisuuden edustaa botteja. ”Esimerkiksi yritys asianajaja voi tarjota asiantuntemustaan ​​asiakasverkostolle edullisempaan hintaan verrattuna hänen klassiseen henkilökohtaiseen korkolomakkeeseensa ”, projektin verkkosivuston mukaan. ”Tässä tapauksessa hänen asiakkaillaan on mahdollisuus” lainata asianajajan henkilöllisyys ”tunniksi ja kuulla sitä chatbotina. Koneen älykkyyskehyksemme oppii jokaisesta vuorovaikutuksesta ja vastaa käyttäjälle erittäin tärkeällä tavalla. . ”

Kuka saa elää bottina?

Ajatus todellisiin ihmisiin perustuvista robotteista herättää joukon vaikeita eettisiä ongelmia. Selepak sanoi, että yksi ongelma on, että tunnetut ihmiset luodaan todennäköisemmin botteina. ”Kuka tahansa, jolla on tekniikkaa, voi muuttaa kumoavan henkilön sanat ja toimet, jotka eivät ole enää lähellä, kumota ne”, hän lisäsi. Ohjelmistoyrityksen Wordable toimitusjohtaja Brad Smith yhtyi Selepakin näkemyksiin chatroboteista sähköpostihaastattelussa sanoen, että ”ei ole okei saada ihmiset uskomaan puhuvansa kuolleen kanssa”.

Humanoidirobotti puhuu ihmisryhmälle.

Selepak huomauttaa, että persoonallisuuksiin perustuvat robotit ovat vain jatkoa nykyiselle deepfake-tekniikalle, joka voi luoda videoita ja valokuvia, jotka näyttävät todellisilta ihmisiltä. ”Mahdollisuus luoda botti, joka voisi tehdä tämän, muuttaisi paitsi videota tai tapahtumaa, myös koko ihmisen elämää ja vaikutusta yhteiskuntaamme”, hän sanoi. ”Adolph Hitler voitaisiin luoda uudelleen ja kumota holokaustit. Ronald Reagan voitaisiin luoda uudelleen ja tukea kommunismia.” Jos ihmiset luodaan koskaan chat-robotteina, heidän on ehkä katsottava, mitä he sanovat. Facebook keskeytti äskettäin suositun eteläkorealaisen chatbotin tilin valitusten jälkeen, joissa se käytti vihapuhetta. Lee Luda, botti, jolla on 20-vuotisen naisyliopiston opiskelija, ilmoitti tekevän halveksivia huomautuksia seksuaalivähemmistöihin. Kannatan kaikkia joukkoa historiallisia henkilöitä, kuten esimerkiksi William Shakespeare. Mutta on aivan liian mahdollista, että ihmiset myös luovat persoonia tummempien hahmojen, kuten Hitlerin, perusteella.