Tekoälypohjaiseen teknologiaan liittyvät viimeisimmät innovaatiot ylittävät rajoja sille, mitä joskus luulimme tekoälyn mahdollistavan. Kuitenkin, kun chatbotit, kuten ChatGPT ja Bing Chat, ovat monissa asioissa lähes yhtä hyviä kuin ihmiset, onko aika painaa jarrua hetkeksi?
Elon Musk ja useat tekoälytutkijat ovat niiden 1 188 ihmisen joukossa (kirjoitushetkellä), jotka ajattelevat niin. Voittoa tavoittelemattoman Future of Life -instituutin julkaisemassa kirjeessä vaaditaan kuuden kuukauden tauko GPT 4:tä parempien tekoälytekniikoiden koulutukseen, mutta onko tauko todella tarpeen?
Mistä on elämän tulevaisuus avoin kirje?
The Future of Life -instituutin julkaisema kirje huomauttaa, että tekoälylaboratoriot ovat "lukittuneet hallitsemattomaan kilpailuun" kehittääkseen ja ottaakseen käyttöön lisää ja tehokkaampia tekoälymalleja, joita kukaan, mukaan lukien niiden tekijät, ei voi "ymmärtää, ennustaa tai luotettavasti". valvonta".
Se myös huomauttaa, että nykyaikaiset tekoälyjärjestelmät ovat nyt tulossa ihmisille kilpailukykyisiksi yleisissä tehtävissä ja kysyy pitäisikö meidän kehittää "ei-inhimillisiä mieliä, jotka saattavat lopulta ylittää, olla älykkäämpiä, vanhentuneita ja korvata meille".
Kirjeessä kehotetaan lopulta kaikkia tekoälylaboratorioita keskeyttämään välittömästi GPT-4:ää tehokkaampien tekoälyjärjestelmien koulutus vähintään kuudeksi kuukaudeksi. Tauon tulee olla julkinen ja todennettavissa myös kaikkien keskeisten toimijoiden osalta. Siinä todetaan myös, että jos tällaista taukoa ei voida panna täytäntöön nopeasti, hallitusten tulisi puuttua toimenpiteisiin ja kieltää tekoälymallikoulutus väliaikaisesti.
Kun tauko on aktiivinen, tekoälylaboratorioita ja riippumattomia asiantuntijoita pyydetään käyttämään sitä kehittämään ja toteuttamaan yhdessä a "jaetut suojausprotokollat" sen varmistamiseksi, että näitä sääntöjä noudattavat järjestelmät ovat "turvallisia yli kohtuullisen epäillä".
Tämän kirjeen ovat allekirjoittaneet useat nimetyt henkilöt, mukaan lukien Elon Musk, Steve Wozniak sekä tekoälytutkijat ja kirjailijat. Itse asiassa allekirjoittajien luettelo on tällä hetkellä keskeytetty suuren kysynnän vuoksi.
Mitkä ovat Muskin huolenaiheet Advanced AI Techin ja OpenAI: n suhteen?
Vaikka Future of Lifen kirjeen allekirjoittaminen saattaa viitata siihen, että Musk on huolissaan tällaisten kehittyneiden tekoälyjärjestelmien aiheuttamista turvallisuusriskeistä, todellinen syy voi olla jokin muu.
Musk perusti OpenAI: n nykyisen toimitusjohtajan Sam Altmanin kanssa vuonna 2015 voittoa tavoittelemattomana järjestönä. Hän kuitenkin iski Altmanin kanssa myöhemmin vuonna 2018, kun hän tajusi, ettei ollut tyytyväinen yrityksen kehitykseen. Muskin kerrotaan halunneen ottaa haltuunsa nopeuttaakseen kehitystä, mutta Altman ja OpenAI-johto tyrmäsivät idean.
Musk poistui OpenAI: sta pian sen jälkeen ja otti rahansa mukaan rikkoen lupauksensa osallistua miljardiin ja antaa vain 100 miljoonaa ennen lähtöä. Tämä pakotti OpenAI: n muuttumaan yksityiseksi yritykseksi pian maaliskuussa 2019 kerätäkseen rahoitusta tutkimuksen jatkamiseen.
Toinen syy Muskin lähtemiseen oli se, että Teslan tekoälykehitys aiheuttaisi eturistiriitoja tulevaisuudessa. On selvää, että Tesla tarvitsee kehittyneitä tekoälyjärjestelmiä toimiakseen Täydelliset itseohjautuvat ominaisuudet. Sen jälkeen kun Musk jätti OpenAI: n, yritys on paennut tekoälymalliensa kanssa lanseeraamalla GPT3.5-käyttöinen ChatGPT vuonna 2022 ja myöhemmin GPT-4:n kanssa maaliskuussa 2023.
Se, että Muskin tekoälytiimi ei ole lähelläkään OpenAI: ta, on otettava huomioon aina, kun hän sanoo, että nykyaikaiset tekoälymallit voivat aiheuttaa riskejä. Hänellä ei myöskään ollut ongelmia Teslan Full Self-Driving -betaversion julkaiseminen yleisillä teillä, muuttaen tavalliset Tesla-ajurit beta-testaajiksi.
Tämäkään ei lopu tähän. Musk on myös ollut melko kriittinen OpenAI: ta kohtaan Twitterissä, ja Altman on jopa sanonut hyökkäävänsä heitä vastaan esiintyessään äskettäin "On with Kara Swisher" -podcastissa.
Tällä hetkellä näyttää siltä, että Musk käyttää vain Future of Life -kirjettä pysäyttääkseen OpenAI: n kehityksen ja minkä tahansa muun yrityksen kuromisen kiinni. GPT-4:lle antaakseen yrityksille mahdollisuuden kuroa kiinni sen sijaan, että he olisivat huolissaan näiden tekoälymallien mahdollisista vaaroista aiheuttaa. Huomaa, että kirjeessä pyydetään myös keskeyttämään tekoälyjärjestelmien "koulutus" kuudeksi kuukaudeksi, mikä voidaan suhteellisen helposti ohittaa jatkamaan niiden kehittämistä sillä välin.
Onko tauko todella tarpeen?
Tauon tarve riippuu tekoälymallien tilasta tulevaisuudessa. Kirje on ehdottomasti hieman dramaattinen sävyltään, emmekä ole vaarassa menettää sivilisaatiomme hallintaa tekoälylle, kuten siinä niin avoimesti sanotaan. Se sanoi, Tekoälyteknologiat aiheuttavat muutamia uhkia.
Ottaen huomioon, että OpenAI ja muut tekoälylaboratoriot voivat saada aikaan parempia turvallisuustarkastuksia, tauosta olisi enemmän haittaa kuin hyötyä. Kirjeessä esitetty ehdotus yhteisistä turvallisuusprotokollasta, jotka "riippumattomien ulkopuolisten asiantuntijoiden tiukasti auditoivat ja valvovat", kuulostaa kuitenkin hyvältä ajatukselta.
Kun Googlen ja Microsoftin kaltaiset teknologiajättiläiset käyttävät miljardeja tekoälyn kehittämiseen ja tuotteisiinsa integrointiin, on epätodennäköistä, että kirje vaikuttaa tekoälyn kehityksen nykyiseen tahtiin.
AI on täällä jäädäkseen
Teknologiajättien ajaessa tekoälyn integrointia tuotteisiinsa ja investoimalla miljardeja dollareita tutkimukseen ja kehitykseen, tekoäly on täällä jäädäkseen, riippumatta siitä, mitä oppositio sanoo.
Mutta ei ole huono idea toteuttaa turvatoimenpiteitä, jotta nämä tekniikat eivät pääse karkaamaan raiteilta ja mahdollisesti muuttumasta haitallisiksi työkaluiksi.