Miksi ChatGPT-4 on niin hidas verrattuna ChatGPT-3.5:een?

ChatGPT: n uusimman version GPT-4, joka julkaistiin maaliskuussa 2023, myötä monet ihmettelevät nyt, miksi se on niin hidas verrattuna edeltäjäänsä, GPT-3.5:een. Joten mikä tässä on perimmäinen syy?

Miksi ChatGPT-4 on niin hidas, ja pitäisikö sinun pysyä sen sijaan GPT-3.5:ssä?

Mikä on ChatGPT-4?

ChatGPT-4 on uusin malli OpenAI: n chatbot, joka tunnetaan yleisesti nimellä ChatGPT. ChatGPT toimii tekoälyn avulla, joten se voi vastata kysymyksiisi ja kehotuksiin paljon paremmin kuin aiemmat chatbotit. ChatGPT käyttää suurta kielimallia, joka toimii GPT: n (Generative Pre-train Transformer) avulla tarjotakseen tietoa ja sisältöä käyttäjille samalla, kun he voivat keskustella.

ChatGPT: llä on laaja valikoima ominaisuuksia, mikä tekee siitä hyödyllisen miljoonille. ChatGPT voi esimerkiksi kirjoittaa tarinoita, muotoilla vitsejä, kääntää tekstiä, kouluttaa käyttäjiä ja paljon muuta. Vaikka ChatGPT: tä voidaan käyttää myös laittomiin toimiin, kuten haittaohjelmien luominen, sen monipuolisuus on jokseenkin vallankumouksellinen.

ChatGPT: n GPT-4-malli julkaistiin 14.3.2023. Tämä ChatGPT-versio on suunniteltu ymmärtämään paremmin tunnekieltä tekstin kautta ja samalla ymmärtämään paremmin eri kielten murteita ja kuvankäsittelyä. GPT-4 voi myös pitää pidempiä keskusteluja ja vastata tehokkaasti pidempiin käyttäjän kehotteisiin.

Lisäksi GPT-4:n parametrit ylittävät suurelta osin GPT-3.5:n parametrit. ChatGPT: n parametrit määrittävät, kuinka tekoäly käsittelee tietoja ja reagoi niihin. Lyhyesti sanottuna parametrit määrittävät chatbotin taidot olla vuorovaikutuksessa käyttäjien kanssa. GPT-3.5:llä on 175 miljardia parametria, kun taas GPT-4:llä on uskomattomat 100-170 biljoonaa (huhutaan – OpenAI ei ole vahvistanut tätä lukua).

Se oli OpenAI: n GPT-3.5, jota käytettiin ChatGPT: n virtalähteenä, joka on nykyään maailman suosituin tekoäly-chatbot. Joten GPT-3.5 on tehnyt kiistattoman jäljen tekoälymaailmassa. Mutta asiat edistyvät jatkuvasti teknologia-alalla, joten ei ole yllätys, että GPT-3.5:llä on nyt GPT-4:n seuraaja.

GPT-4 ei kuitenkaan ole täydellinen. Itse asiassa GPT-4:n pitkät vasteajat aiheuttavat melkoista kohua. Joten tarkastellaan tätä ongelmaa ja miksi se voi tapahtua.

ChatGPT-4 on hidas

Monet huomasivat GPT-4:n julkaisun yhteydessä, että OpenAI: n uusi chatbot oli uskomattoman hidas. Tämä turhautui useisiin käyttäjiin, sillä GPT-4:n oli tarkoitus olla askel ylöspäin GPT-3.5:stä, ei taaksepäin. Tämän seurauksena GPT-4:n käyttäjät ovat käyneet online-alustoilla, kuten Redditissä ja OpenAI: n yhteisöhallituksessa, keskustelemaan asiasta.

Päällä OpenAI: n yhteisöfoorumi, monet käyttäjät ovat esittäneet GPT-4-viiveen pettymyksensä. Yksi käyttäjä sanoi, että GPT-4 oli "erittäin hidas" ja että jopa pienet chatbotille tehdyt pyynnöt johtivat epätavallisen pitkiin, yli 30 sekunnin viiveisiin.

Muut käyttäjät kertoivat nopeasti kokemuksistaan ​​GPT-4:stä, ja yksi kommentoi viestin alla, että "sama puhelu samoilla tiedoilla voi kestää jopa 4 kertaa hitaammin kuin 3,5 turbo".

Toisessa OpenAI-yhteisöfoorumiviesti, käyttäjä kommentoi, että hänen kehotuksiinsa vastataan joskus "virhe kehon virtauksessa"-viesti, joka ei vastaa. Samassa viestiketjussa toinen henkilö ilmoitti, että he eivät saaneet GPT-4:ää "vastaamaan onnistuneesti täydellinen skripti." Toinen käyttäjä kommentoi, että he joutuivat jatkuvasti verkkovirheisiin yrittäessään käyttää GPT-4.

Viiveiden ja epäonnistuneiden tai keskeneräisten vastausten vuoksi näyttää siltä, ​​että GPT-4 on täynnä ongelmia, jotka saavat käyttäjät nopeasti pois.

Joten miksi tämä tarkalleen ottaen tapahtuu? Onko GPT-4:ssä jotain vikaa?

Miksi GPT-4 on hidas verrattuna GPT-3.5:een?

Yllä mainitussa OpenAI-yhteisöfoorumin viestissä yksi käyttäjä vastasi, että viive johtui "nykyisestä ongelmasta koko infrastruktuurissa ylikuormitus", lisäten, että "skaalautuvuuden käsitteleminen niin lyhyessä ajassa on haasteellista, koska chatin ja chatin käyttäjien määrä on suuri. API."

Jonkin sisällä Reddit postaus r/singularity subredditissä ladattu käyttäjä esitti muutamia mahdollisia syitä GPT-4:n hitaudelle alkaen suuremmasta kontekstin koosta. GPT-ekosysteemissä kontekstin koko viittaa siihen, kuinka paljon tietoa tietty chatbot-versio voi käsitellä ja sitten tuottaa tietoa. Vaikka GPT-3.5:n kontekstikoko oli 4K, GPT-4:n on kaksinkertainen. Joten 8K-kontekstikoko voi vaikuttaa GPT-4:n kokonaisnopeuksiin.

Redditin kirjoittaja ehdotti myös, että GPT-4:n parannettu ohjattavuus ja hallinta voisi vaikuttaa chatbotin käsittelyaikaan. Tässä kirjoittaja totesi, että GPT-4:n parempi ohjattavuus ja hallusinaatioiden hallinta ja sopimaton kieli saattaa olla syyllinen, koska nämä ominaisuudet lisäävät GPT-4:n käsittelymenetelmään lisävaiheita tiedot.

Lisäksi esitettiin, että GPT-4:n kyky käsitellä kuvia voisi hidastaa asioita. Monet rakastavat tätä hyödyllistä ominaisuutta, mutta se voi tulla saaliiksi. Koska on huhuttu, että GPT-4:n toimitetun kuvan käsittely kestää 10-20 sekuntia, on mahdollista, että tämä komponentti venyttää vastausaikoja (vaikka tämä ei selitä viiveitä, joita käyttäjät kokevat vain tekstikehotteita antavien käyttäjien kohdalla).

Muut käyttäjät ovat ehdottaneet, että ChatGPT-4:n uutuudella on suuri rooli näissä viiveissä. Toisin sanoen jotkut ajattelevat, että OpenAI: n uusimman chatbotin täytyy kokea kasvukipuja ennen kuin kaikki puutteet voidaan korjata.

Mutta suurin syy GPT-4:n hitaaseen on se parametrien määrä, joita GPT-4 voi käyttää verrattuna GPT-3.5:een. The ilmiömäinen parametrien nousu tarkoittaa yksinkertaisesti sitä, että uudemmalla GPT-mallilla kestää kauemmin käsitellä tietoja ja vastata tarkasti. Saat parempia vastauksia monimutkaisemmin, mutta niiden saaminen kestää hieman kauemmin.

Pitäisikö sinun valita GPT-3.5 GPT-4:n sijaan?

Joten, kun nämä ongelmat mielessä, sinun pitäisi käyttää GPT-3.5 tai GPT-4?

Kirjoitushetkellä näyttää siltä, ​​että GPT-3.5 on parempi vaihtoehto kuin GPT-4. Niin monet käyttäjät ovat kokeneet viiveitä, että on todennäköistä, että aikaongelma koskee kaikkia, ei vain muutamien henkilöiden kohdalla. Joten jos ChatGPT-3.5 täyttää tällä hetkellä kaikki odotuksesi, etkä halua odottaa vastausta vastineeksi lisäominaisuuksista, voi olla viisasta pysyä tässä versiossa toistaiseksi.

Huomaa kuitenkin, että GPT-4 ei ole vain GPT-3.5, vaan hitaampi. Tällä OpenAI: n chatbotin versiolla on lukuisia etuja edeltäjäänsä verrattuna. Jos etsit kehittyneempää AI-chatbotia etkä välitä odottaa vastauksia pidempään, kannattaa ehkä siirtyä GPT-3.5:stä GPT-4:ään.

Ajan myötä GPT-4:n viiveet voivat pienentyä tai hävitä kokonaan, joten kärsivällisyys voi olla tässä hyve. Yritätpä sitten vaihtaa GPT-4:ään nyt tai odottaa vähän kauemmin nähdäksesi, miten tämän version kanssa käy, voit silti saada paljon irti OpenAI: n näppärästä pienestä chatbotista.

GPT-4 on edistyneempi, mutta siinä on viive

Vaikka GPT-4:ssä on useita edistyneitä ominaisuuksia GPT-3.5:een verrattuna, sen merkittävät viiveet ja vastausvirheet ovat tehneet siitä käyttökelvottoman joillekin. Nämä ongelmat voidaan ratkaista lähitulevaisuudessa, mutta toistaiseksi GPT-4:llä on varmasti joitain esteitä voitettavana ennen kuin se hyväksytään laajemmassa mittakaavassa.