július 20-tól OpenAI van halkan kihúzta a dugót az A.I. érzékelő szoftver, az AI Classifier, hivatkozva rá 'alacsony pontosság.' Ha először hallasz erről, ne lepődj meg – az OpenAI olyan mélyen a föld alá temette a hírt, hogy egy hétbe telt, mire bárki észrevette, hogy ott van.
Az AI osztályozó vége nem durranással, hanem nyöszörgéssel ért véget. Ahelyett, hogy közleményben jelentette volna be a változást, az OpenAI eltávolította az AI Classifier nyitóoldalát, amely most egyszerűen egy hibaértesítés , majd két mondatban szerkesztve tájékoztatjuk a felhasználókat az eszköz leállításáról a tetején a Januári blogbejegyzés amely először piacra dobta a terméket. A frissített bejegyzésben az OpenAI azt mondta, hogy a vállalat „hatékonyabb származási technikákat kutat”.
Az OpenAI nem volt hajlandó kommentálni a januári blogbejegyzésen túl.
sacha baron cohen bohém rapszódia
Az AI Classifier pontatlansága nem éppen megdöbbentő, tekintve, hogy kezdeti bejelentése több szót részletezett figyelmeztetései és korlátai, mint erősségei. Az OpenAI szerint az észlelőeszköz az A.I. által írt szövegek 26 százalékát tudta helyesen azonosítani, és ami még riasztóbb, hamis pozitív eredményeket (azokat az értékeléseket, amelyek úgy ítélték meg, hogy az ember által írt szöveget az A.I.-ből plagizáltnak) 9 százalékában köpte ki.
A pedagógusok számára a megbízhatatlan A.I. A plágiumdetektorok sokkal több veszélyt hordoznak, mint hasznot
Az AI osztályozó zsaluja különösen az oktatási szektort érinti. A ChatGPT létrehozása küldött tudományos intézmények tülekedés mivel nyilvánvalóvá vált, hogy a diákok egyre inkább támaszkodnak a generatív A.I. számára szinte mindent . A.I. Az észlelőszoftvert eredetileg azon kevés világítótornyok egyikének tekintették, amelyek segítségével a tanárok átvezethetők az AI által generált plágium viharos tengerén, de úgy tűnik, hogy ez a fény kialszik.
Marc Watkins, a Mississippi Egyetem professzora, aki az A.I. az oktatásban az AI Classifier leállását egy nagyobb probléma jelképeként tekinti.
„Ez annak elismerése, hogy [A.I. érzékelőszoftver] nem igazán működik mindenütt” – mondta az Observernek, megjegyezve a Pittsburghi Egyetem nemrégiben megszűnt használat az A.I. érzékelő eszköz Turnitin a pontosság érdekében.
„Tekintettel arra, hogy az eszközt januárban adták ki, majd júliusra leállították, elég egyértelmű jelnek tűnik, hogy ez nem működik” – mondta Watkins az AI Classifierről.
Watkins nem az egyetlen, aki elvesztette hitét az A.I-ben. észlelési technológia; Egy július 25-én közzétett Twitter közvélemény-kutatásban a 667 válaszadónak mindössze 15,3 százaléka gondolta úgy, hogy bárki képes állandóan pontos detektort készíteni.
Fényében @OpenAI ha leállítja a mesterséges intelligencia észlelő eszközét a rossz pontosság miatt, gondolod, hogy valaha is képes lesz valaki olyan detektort készíteni, amely pontosan érzékeli az AI által írt tartalmat?
— DataChazGPT 🤯 (nem bot) (@DataChaz) 2023. július 25
Végül is, ha az OpenAI, a ChatGPT mögött álló vállalat nem tudja meghatározni, hogy milyen szöveget generál saját algoritmussal, nehéz elképzelni, hogy más észlelési eszközök, például a GPT-0 vagy az Originality.AI sokkal jobban teljesítenek.
A pontatlan A.I. következményei Az észlelés mélyebb, mint néhány GPT által írt papír hiánya. A Kaliforniai Egyetem hallgatójaként első kézből fedezték fel idén tavasszal A.I. A plágiumdetektorok örömmel tölthetik el vádjaikat, és végül arra késztethetik a tanárokat, hogy jogtalanul jelentsék be a tanulókat olyan esszék miatt, amelyeket teljesen külső befolyás nélkül írtak.
Ezek a hamis pozitív adatok sem véletlenszerűek. Például „a nem angolul beszélő diákok alacsonyabb pontszámot értek el a zavarodottság terén, ami az egyik fő A.I. detektorok az A.I. meghatározására. generált szöveg – mondta Watkins –, ami azt jelenti, hogy a nem anyanyelvi beszélők sokkal nagyobb arányban kerülnek rosszul megjelölésre.
Míg az AI Classifier végének nagyon csekély kézzelfogható hatása van (ezrek vannak még az interneten), valami sokkal nagyobbat szimbolizál: a jelenlegi technológiai fóliák széles körben elterjedt alkalmatlanságát a ChatGPT számára.
Watkins azt mondta az Observernek, hogy „nem támogatja és nem ajánlja a jelenleg elérhető észlelési eszközöket”, és az OpenAI zavarba ejtő visszahúzódása miatt nem nehéz megérteni, miért.
