Skip to content

Miksi asiantuntijat sanovat, että meidän pitäisi nyt hallita tekoälyä

12 de heinäkuu de 2021

Tärkeimmät takeaways

  • Uudet tutkimukset viittaavat siihen, että superälyä tekoälyä ei ehkä voida kontrolloida.
  • Lehti väittää, että tekoälyn hallinta vaatisi paljon kehittyneempää tekniikkaa kuin meillä tällä hetkellä on.
  • Jotkut asiantuntijat sanovat, että todella älykäs tekoäly voi olla täällä aikaisemmin kuin luulemme.
Jos ihmiset koskaan kehittävät erittäin älykästä tekoälyä, sitä ei ehkä voida mitenkään hallita, sanovat tutkijat. Tekoälyä on pitkään pidetty joko lääkkeenä koko ihmiskunnan ongelmiin tai Terminaattori-tyyppinen maailmanloppu. Toistaiseksi tekoäly ei kuitenkaan ole tullut lähelle edes ihmisen tason älyä. Mutta hihnan pitäminen edistyneestä tekoälystä voi olla ihmisille liian monimutkainen ongelma, jos sitä koskaan kehitetään, äskettäin julkaistun julkaisun mukaan Tekoälyn tutkimuksen lehti. ”Erittäin älykäs kone, joka hallitsee maailmaa, kuulostaa tieteiseltä fiktiolta”, Manuel Cebrian, yksi paperin tekijöistä, sanoi lehdistötiedotteessa. ”Mutta on jo koneita, jotka suorittavat tiettyjä tärkeitä tehtäviä itsenäisesti ilman, että ohjelmoijat ymmärtävät täysin, miten he oppivat sen. Siksi herää kysymys, voisiko siitä jossain vaiheessa tulla hallitsematonta ja vaarallista ihmiskunnalle.”

Tulossa pian lähellä olevaan supertietokoneeseen

Lehti väittää, että tekoälyn hallinta vaatisi paljon kehittyneempää tekniikkaa kuin meillä tällä hetkellä on. Tutkimuksessaan tiimi suunnitteli teoreettisen suojarakennuksen algoritmin, joka varmistaa, että huippuosaava tekoäly ei voi vahingoittaa ihmisiä missään olosuhteissa simuloimalla ensin tekoälyn käyttäytymistä ja pysäyttämällä sen, jos sitä pidetään haitallisena. Kirjoittajat havaitsivat, että tällaista algoritmia ei voida rakentaa. ”Jos jaat ongelman teoreettisen tietojenkäsittelytieteen perussääntöihin, käy ilmi, että algoritmi, joka käskisi tekoälyn olemaan tuhoamatta maailmaa, voi vahingossa pysäyttää oman toimintansa.” Iyad Rahwan, Saksan Max Planckin inhimillisen kehityksen instituutin ihmisten ja koneiden keskuksen johtaja, kertoi lehdistötiedotteessa. ”Jos näin tapahtuisi, et tiedä analysoiinko suojausalgoritmi edelleen uhkaa vai onko se pysähtynyt sisältämään haitallista tekoälyä. Itse asiassa tämä tekee suojausalgoritmista käyttökelvottoman.”

Käsitteellinen kuva: Binaarikoodi, joka muuttaa tekoälyn robotin kasvot.

Todella älykäs tekoäly voi olla täällä aikaisemmin kuin luulemme, väittää Michalis Vazirgiannis, tietojenkäsittelytieteen professori École Polytechniquessa Ranskassa. ”Tekoäly on ihmisen esine, mutta siitä on nopeasti tulossa itsenäinen kokonaisuus”, hän sanoi sähköpostissa osoitteeseen Lifewire. ”Kriittinen kohta on, jos / kun esiintyy singulariteettia (ts. Kun tekoälyn tekijöillä on tietoisuus kokonaisuutena) ja siksi he vaativat itsenäisyyttä, itsehillintää ja lopulta dominointia.”

Singulariteetti on tulossa

Vazirgiannis ei ole yksin ennustamassa super tekoälyn välitöntä saapumista. Todelliset tekoälyn uhkaajat haluavat puhua ”singulariteetista”, jonka Vazirgiannis selittää, että tekoäly korvaa ihmisen älykkyyden ja ”että tekoälyn algoritmit ymmärtävät mahdollisesti olemassaolonsa ja alkavat käyttäytyä itsekkäästi ja yhteistyöhön”. Googlen insinööripäällikkö Ray Kurzweilin mukaan singulariteetti saavutetaan ennen 2000-luvun puoliväliä. ”2029 on tasainen päivämäärä, jonka olen ennustanut, milloin tekoäly läpäisee voimassa olevan Turingin testin ja saavuttaa siten ihmisen älykkyyden”, Kurzweil kertoi Futurismi. ”Jos emme voi siivota omaa taloa, minkä koodin meidän pitäisi pyytää tekoälyä noudattamaan?” ”Olen asettanut päivämäärän 2045” singulariteetille ”, jolloin kerrotaan tehokas älymme miljardi kerta sulautumalla luomaamme älykkyyteen.” Mutta kaikki tekoälyn asiantuntijat eivät ajattele, että älykkäät koneet ovat uhka. Kehitteillä oleva tekoäly on todennäköisesti hyödyllisempi lääkekehityksessä eikä siinä ole todellista älykkyyttä, tekoälykonsultti Emmanuel Maggiori sanoi sähköpostihaastattelussa. ”Tekoälyn ympärillä on suuri hype, mikä saa sen kuulostamaan todella mullistavalta”, hän lisäsi. ”Nykyiset tekoälyjärjestelmät eivät ole yhtä tarkkoja kuin julkistetut, ja tekevät virheitä, joita ihminen ei koskaan tekisi.”

Ota tekoälyn hallinta nyt

Tekoälyn säätäminen niin, että se ei pääse hallinnastamme, voi olla vaikeaa, Vazirgiannis sanoo. Yritykset hallitusten sijaan hallitsevat tekoälyä käyttäviä resursseja. ”Jopa algoritmit itse tuotetaan ja otetaan käyttöön näiden suurten ja tehokkaiden, yleensä monikansallisten yksiköiden tutkimuslaboratorioissa”, hän sanoi. ”On siis ilmeistä, että valtioiden hallituksilla on yhä vähemmän valtaa tekoälyn hallintaan tarvittavissa resursseissa.” Jotkut asiantuntijat sanovat, että superintelligent AI: n hallitsemiseksi ihmisten on hallittava laskentaresursseja ja sähkötehoa. ”Tieteiskirjallisuuselokuvat, kuten Matriisi tehdä ennustuksia dystooppisesta tulevaisuudesta, jossa tekoäly käyttää ihmisiä biovoiman lähteinä ”, Vazirgiannis sanoi.” Vaikka etäisyydet ovat mahdottomia, ihmiskunnan tulisi varmistaa, että laskentaresursseja (eli tietokoneklustereita, GPU: ita, supertietokoneita, verkot / tietoliikenne) ja tietysti voimalaitokset, jotka tuottavat sähköä, mikä on ehdottomasti haitallista tekoälyn toiminnalle. ”

Turvallisuusvastaava katselee pilvimuodostumia, jotka muodostavat kasvot taivaalla.

Tekoälyn hallinnan ongelma on, että tutkijat eivät aina ymmärrä, miten tällaiset järjestelmät tekevät päätöksensä, kertoi tietojenkäsittelyohjelmistoyrityksen KNIME perustaja ja toimitusjohtaja Michael Berthold sähköpostihaastattelussa. ”Jos emme tee niin, kuinka voimme” hallita ”sitä?” Hän lisäsi: ”Emme ymmärrä, kun tehdään täysin erilainen päätös meille merkityksettömien panosten perusteella.” Ainoa tapa hallita tekoälyn käytön riskiä on varmistaa, että sitä käytetään vain silloin, kun riski on hallittavissa, Berthold sanoi. ”Toisin sanoen kaksi äärimmäistä esimerkkiä: Älä aseta tekoälyä ydinvoimalaitoksesi johtoon, jossa pienellä virheellä voi olla katastrofaalisia sivuvaikutuksia”, hän lisäsi. ”Toisaalta tekoäly ennustaa, pitäisikö huoneesi lämpötilaa säätää hieman ylös- tai alaspäin, saattaa olla pienen riskin arvoinen asumismukavuuden hyödyksi.” Jos emme pysty hallitsemaan tekoälyä, meillä olisi parempi opettaa sille tapoja, NASA: n entinen tietokoneinsinööri Peter Scott sanoi sähköpostihaastattelussa. ”Emme voi viime kädessä taata tekoälyn hallittavuutta enempää kuin voimme varmistaa lastemme”, hän sanoi. ”Nostamme heidät oikeiksi ja toivomme parasta. Toistaiseksi he eivät ole tuhonneet maailmaa. Jotta voisimme kasvattaa heitä hyvin, meidän on ymmärrettävä paremmin etiikka; jos emme voi siivota omaa taloa, mitä sääntöjä meidän pitäisi olla pyydä tekoälyä seuraamaan? ” Mutta kaikki toivot eivät ole kadonneet ihmiskunnalle, sanoo tekoälyn tutkija Yonatan Wexler, OrCamin tutkimus- ja kehitystoiminnan varatoimitusjohtaja. ”Vaikka edistys on todella vaikuttavaa, uskon henkilökohtaisesti, että ihmisen älykkyyttä ei pidä aliarvioida”, hän sanoi sähköpostihaastattelussa. ”Me olemme lajeina luoneet melko hämmästyttäviä asioita, mukaan lukien tekoäly.” Aina älykkäämpiä tekoälyjä etsitään edelleen. Mutta saattaa olla parempi harkita, kuinka hallitsemme luomuksiamme, ennen kuin on liian myöhäistä.