ChatGPT on tehokas uusi AI-chatbot, joka tekee vaikutuksen nopeasti, mutta monet ihmiset ovat huomauttaneet, että siinä on vakavia sudenkuoppia. Kysy mitä tahansa, niin saat vastauksen, joka kuulostaa ihmisen kirjoittamalta, oppinut tietonsa ja kirjoitustaitonsa Internetin suurista tietomääristä.
Aivan kuten Internet, totuus ja tosiasiat eivät kuitenkaan ole aina itsestäänselvyyksiä, ja ChatGPT on syyllinen ymmärtämään ne väärin. ChatGPT muuttaa tulevaisuuttamme, joten tässä on joitain suurimmista huolenaiheista.
Mikä on ChatGPT?
ChatGPT on laaja kieltenoppimismalli, joka on suunniteltu jäljittelemään ihmisten keskustelua. Se muistaa asiat, jotka olet sanonut sille aiemmin, ja pystyy korjaamaan itsensä, jos se on väärässä.
Se kirjoittaa ihmisen kaltaisella tavalla ja sillä on runsaasti tietoa, koska se on koulutettu kaikenlaiseen Internetin tekstiin, kuten Wikipediaan, blogikirjoituksiin, kirjoihin ja akateemisiin artikkeleihin.
Se on helppo oppia kuinka käyttää ChatGPT: tä, mutta haastavampaa on selvittää, mitkä ovat sen suurimmat ongelmat. Tässä on joitain, joista kannattaa tietää.
1. ChatGPT ei ole aina oikein
Se epäonnistuu matematiikassa, ei näytä pystyvän vastaamaan yksinkertaisiin logiikkakysymyksiin, ja se menee jopa niin pitkälle, että se väittää täysin vääriä tosiasioita. Kuten sosiaalisen median käyttäjät voivat todistaa, ChatGPT voi tehdä virheen useammin kuin kerran.
OpenAI tietää tästä rajoituksesta ja kirjoittaa, että "ChatGPT kirjoittaa joskus uskottavalta kuulostavia, mutta vääriä tai järjettömiä vastauksia." Tämä totuuden ja fiktion "hallusinaatiot", kuten jotkut tiedemiehet sitä kutsuvat, ovat erityisen vaarallisia, kun kyse on jostain, kuten lääketieteellisestä neuvoja.
Toisin kuin muut AI-avustajat, kuten Siri tai Alexa, Chat GPT ei käytä Internetiä vastausten etsimiseen. Sen sijaan se rakentaa lauseen sana sanalta ja valitsee harjoituksensa perusteella todennäköisimmän "tokenin", jonka pitäisi tulla seuraavaksi.
Toisin sanoen ChatGPT saavuttaa vastauksen tekemällä sarjan arvauksia, mikä on osa syytä, miksi se voi väittää vääriä vastauksia ikään kuin ne olisivat täysin totta.
Vaikka se on loistava selittämään monimutkaisia käsitteitä, tehden siitä tehokkaan oppimisen työkalun, on tärkeää olla uskomatta kaikkea, mitä se sanoo. ChatGPT ei aina ole oikein – ainakaan vielä.
2. Bias on lisätty järjestelmään
ChatGPT koulutettiin ihmisten kollektiiviseen kirjoittamiseen kaikkialla maailmassa, menneisyydessä ja nykyisyydessä. Tämä tarkoittaa, että samat poikkeamat kuin tiedoissa voivat esiintyä myös mallissa.
Itse asiassa käyttäjät ovat osoittaneet, kuinka ChatGPT voi antaa kauheita vastauksia, joista osa on esimerkiksi naisia syrjiviä. Mutta se on vain jäävuoren huippu; se voi tuottaa vastauksia, jotka ovat erittäin haitallisia useille vähemmistöryhmille.
Syy ei myöskään piile pelkästään tiedoissa. OpenAI-tutkijat ja -kehittäjät valitsevat tiedot, joita käytetään ChatGPT: n kouluttamiseen. Auttaakseen käsittelemään sitä, mitä OpenAI kutsuu "puolueelliseksi käytökseksi", se pyytää käyttäjiä antamaan palautetta huonoista tuloksista.
Koska ChatGPT voi aiheuttaa vahinkoa ihmisille, voit väittää, ettei ChatGPT: tä olisi pitänyt julkaista julkisesti ennen kuin nämä ongelmat on tutkittu ja ratkaistu.
Syyskuussa 2022 julkaistiin samanlainen AI-chatbot nimeltä Sparrow (omistaja Googlen emoyhtiö Alphabet). Sitä pidettiin kuitenkin suljettujen ovien takana samankaltaisten huolenaiheiden vuoksi, että se voisi aiheuttaa vahinkoa.
Ehkä Metan olisi pitänyt johtaa myös varoitusta. Kun se julkaisi Galactican, AI-kielimallin, joka on koulutettu akateemisiin papereihin, se muistutettiin nopeasti sen jälkeen, kun monet ihmiset kritisoivat sitä väärien ja puolueellisten tulosten tuottamisesta.
3. Haaste lukion englannin kielelle
Voit pyytää ChatGPT: tä oikolukemaan kirjoituksesi tai opastaa kappaleen parantamista. Vaihtoehtoisesti voit poistaa itsesi yhtälöstä kokonaan ja pyytää ChatGPT: tä kirjoittamaan sinulle jotain.
Opettajat ovat kokeilleet englanninkielisten tehtävien syöttämistä ChatGPT: hen ja ovat saaneet vastauksia, jotka ovat parempia kuin monet heidän oppilaistaan. ChatGPT voi tehdä sen epäröimättä saatekirjeiden kirjoittamisesta kuuluisan kirjallisuusteoksen tärkeimpien teemojen kuvaamiseen.
Tämä herättää kysymyksen: jos ChatGPT voi kirjoittaa puolestamme, tuleeko opiskelijoiden opetella kirjoittamaan tulevaisuudessa? Se saattaa tuntua eksistentiaaliselta kysymykseltä, mutta kun opiskelijat alkavat käyttää ChatGPT: tä esseensä kirjoittamiseen, koulujen on mietittävä vastaus nopeasti. Tekoälyn nopea käyttöönotto viime vuosina järkyttää monia toimialoja, ja koulutus on vain yksi niistä.
4. Se voi aiheuttaa todellista vahinkoa
Mainitsimme aiemmin, kuinka ChatGPT: n antamat virheelliset tiedot voivat aiheuttaa todellista vahinkoa, joista ilmeisin esimerkki on väärä lääketieteellinen neuvo.
Muitakin huolenaiheita on. Väärennetyt sosiaalisen median tilit muodostavat valtavan ongelman Internetissä, ja AI-chatbottien käyttöönoton myötä Internet-huijaukset olisivat helpompia toteuttaa. Väärennetyn tiedon leviäminen on toinen huolenaihe, varsinkin kun ChatGPT saa väärätkin vastaukset kuulostamaan vakuuttavasti oikeilta.
Nopeus, jolla ChatGPT voi tuottaa vastauksia, jotka eivät aina ole oikeita, on jo aiheuttanut ongelmia Stack Exchangelle, verkkosivustolle, jossa käyttäjät voivat lähettää kysymyksiä ja saada vastauksia.
Pian sen julkaisun jälkeen ChatGPT: n vastaukset kiellettiin sivustolta, koska monet niistä olivat vääriä. Ilman tarpeeksi vapaaehtoisia selvittämään ruuhkaa, olisi mahdotonta ylläpitää korkealaatuisten vastausten tasoa, mikä vahingoittaisi verkkosivustoa.
5. OpenAI: lla on kaikki voima
Suuren voiman mukana tulee suuri vastuu, ja OpenAI: lla on paljon valtaa. Se on yksi ensimmäisistä tekoälyyrityksistä, joka todella ravistelee maailmaa ei yhdellä, vaan useilla AI-malleilla, mukaan lukien Dall-E 2, GPT-3 ja nyt ChatGPT.
OpenAI valitsee, mitä tietoja käytetään ChatGPT: n kouluttamiseen ja miten se käsittelee kielteisiä seurauksia. Sovimmepa menetelmistä tai emme, se jatkaa tämän teknologian kehittämistä omien tavoitteidensa mukaisesti.
Vaikka OpenAI pitää turvallisuutta tärkeänä prioriteettina, on paljon sellaista, jota emme tiedä mallien luomisesta. Olipa sitä mieltä, että koodista pitäisi tehdä avoimen lähdekoodin lähde, tai samaa mieltä siitä, että sen pitäisi pitää osa siitä salassa, emme voi tehdä asialle paljon.
Loppujen lopuksi voimme vain luottaa siihen, että OpenAI tutkii, kehittää ja käyttää ChatGPT: tä vastuullisesti. Vaihtoehtoisesti voimme puolustaa sitä, että useammalla ihmisellä on sananvalta, mihin suuntaan tekoälyn tulisi kulkea, jakamalla tekoälyn voiman sitä käyttävien ihmisten kanssa.
Jos olet kiinnostunut siitä, mitä muuta OpenAI on kehittänyt, tutustu artikkeleihimme kuinka käyttää Dall-E 2:ta ja kuinka GPT-3:a käytetään.
Tekoälyn suurimpien ongelmien ratkaiseminen
ChatGPT: ssä, OpenAI: n uusimmassa kehityksessä, on paljon jännittävää. Mutta sen välittömän käytön lisäksi on joitakin vakavia ongelmia, jotka kannattaa ymmärtää.
OpenAI myöntää, että ChatGPT voi tuottaa haitallisia ja puolueellisia vastauksia, puhumattakaan sen kyvystä sekoittaa faktoja fiktioon. Tällaisella uudella tekniikalla on vaikea ennustaa, mitä muita ongelmia syntyy. Nauti siis ChatGPT: n tutkimisesta siihen asti ja varo uskomasta kaikkea, mitä siinä sanotaan.
