Jednovetový návrh
Vytvoriť systém, ktorý dokáže identifikovať, overovať a odmeňovať používateľov, ktorých spätná väzba má preukázateľnú hodnotu pri hodnotení a zlepšovaní AI modelov.
Problém
ChatGPT už dnes získava od používateľov spätnú väzbu, napríklad prostredníctvom hodnotenia odpovedí. Nie každá spätná väzba však má rovnakú hodnotu.
Je zásadný rozdiel medzi tým, keď používateľ povie:
„Táto odpoveď sa mi nepáči.“
„Táto odpoveď je nesprávna.“
„Táto odpoveď je nesprávna z konkrétneho dôvodu.“
„Tu je správna odpoveď a vysvetlenie, prečo.“
„Túto chybu som overil na viacerých prípadoch a opakuje sa.“
„Objavil som určitý systematický spôsob, akým sa model pri tomto type úlohy dostáva k nesprávnemu výsledku.“
Posledné uvedené prípady už predstavujú určitú formu ľudskej evaluácie, testovania a analýzy správania modelu.
Napriek tomu používateľ v súčasnosti nemá jasný mechanizmus, ktorým by bola takáto práca rozpoznaná a primerane ocenená.
Návrh
Navrhujem vytvoriť systém Používateľské príspevky a odmeny za spätnú väzbu, ktorý by dokázal rozlišovať medzi jednoduchým hodnotením odpovede a skutočne hodnotným príspevkom k zlepšovaniu AI.
Systém by mohol hodnotiť spätnú väzbu podľa viacerých faktorov, napríklad:
správnosť,
konkrétnosť,
overiteľnosť,
novosť,
opakovateľnosť,
náročnosť odhalenia problému,
potenciálny dopad,
a dlhodobá využiteľnosť pri hodnotení alebo zlepšovaní modelu.
Cieľom by nemalo byť odmeňovanie množstva spätnej väzby.
Cieľom by malo byť odmeňovanie jej užitočnosti.
Úrovne používateľského príspevku
Systém by mohol rozlišovať napríklad:
1. Identifikácia problému
Používateľ upozorní na možnú chybu.
2. Vysvetlenie problému
Používateľ konkrétne vysvetlí, čo je nesprávne a prečo.
3. Oprava
Používateľ poskytne správne riešenie, argumentáciu, zdroj alebo test.
4. Overenie
Správnosť spätnej väzby je možné nezávisle overiť.
5. Odhalenie vzorca alebo systémovej chyby
Používateľ zistí, že nejde o jednorazovú chybu, ale o opakujúci sa problém.
6. Príspevok k evaluácii
Používateľ vytvorí alebo odhalí prípad, ktorý môže byť využiteľný ako testovací alebo evaluačný prípad.
7. Mimoriadne hodnotný odborný príspevok
Používateľ poskytne presnú odbornú spätnú väzbu, ktorá môže mať významnú hodnotu pre ďalšie hodnotenie alebo zlepšovanie modelu.
Konkrétnu klasifikáciu a spôsob výpočtu hodnoty by, samozrejme, určilo OpenAI.
Overovanie spätnej väzby
Model by nemal byť jedinou autoritou, ktorá rozhoduje o tom, či je kritika jeho vlastnej odpovede správna.
Podľa typu spätnej väzby by bolo možné použiť napríklad:
dôveryhodné zdroje,
matematické výpočty,
programové testy,
technickú dokumentáciu,
nezávislé hodnotenie,
alebo ľudskú kontrolu.
Tým by sa znížilo riziko, že budú odmeňované nesprávne, zavádzajúce alebo účelovo vytvorené opravy.
Odmeňovanie
Odmena nemusí byť vždy finančná.
Mohla by mať viac foriem:
kredity na používanie AI,
zľava na predplatné,
bezplatné obdobie plateného programu,
prístup k experimentálnym funkciám,
status prispievateľa,
alebo pri mimoriadne hodnotných príspevkoch finančná odmena.
Finančná odmena by pritom nemusela byť určená pre bežnú spätnú väzbu. Mohla by byť vyhradená pre príspevky s preukázateľne vysokou hodnotou.
Ochrana pred zneužívaním
Ak by bol používateľ odmeňovaný za spätnú väzbu, prirodzene by vzniklo riziko, že začne vytvárať veľké množstvo spätnej väzby iba kvôli získaniu odmeny.
Preto by systém nemal odmeňovať počet hlásení.
Mal by odmeňovať kvalitu a využiteľnosť.
Používateľ, ktorý odošle tisíce jednoduchých hlásení typu „toto je zle“, by nemal automaticky získať viac odmien než používateľ, ktorý identifikuje jeden nový, reprodukovateľný a významný problém a presne vysvetlí jeho príčinu.
Takýto systém by prirodzene motivoval používateľov poskytovať kvalitnejšiu spätnú väzbu.
Odmeňovanie za objavenie systémovej chyby
Za mimoriadne hodnotný by som považoval najmä prípad, keď používateľ neobjaví iba jednu chybnú odpoveď, ale identifikuje opakujúci sa spôsob zlyhania modelu.
Napríklad:
Používateľ si všimne, že pri určitom type úloh model opakovane používa nesprávny predpoklad. Následne vytvorí viacero príkladov, na ktorých tento problém preukáže.
Takýto používateľ v podstate vytvoril malú evaluáciu modelu.
Takýto príspevok by preto mal mať výrazne vyššiu hodnotu než jednoduché označenie jednej odpovede ako nesprávnej.
História používateľských príspevkov
Používateľ by mohol mať vlastnú súkromnú stránku s prehľadom svojich príspevkov, napríklad:
počet odoslaných príspevkov,
počet overených príspevkov,
počet vysoko hodnotných príspevkov,
počet identifikovaných systémových problémov,
počet príspevkov využitých pri evaluácii,
a získané odmeny.
Nemuseli by sa zobrazovať žiadne dôverné informácie o vývoji modelov.
Používateľ by však mal dostať aspoň základnú spätnú väzbu o tom, čo sa s jeho príspevkom stalo.
Napríklad:
Odoslané → Vyhodnocuje sa → Overené → Použité pri evaluácii → Príspevok k zlepšeniu
Nie každý príspevok by samozrejme musel dosiahnuť poslednú fázu.
Prečo by to mohlo byť hodnotné pre OpenAI
Takýto systém by vytvoril väčšiu skupinu motivovaných používateľov, ktorí by sa podieľali na hodnotení modelov v reálnych podmienkach.
Používatelia sa pri každodennom používaní stretávajú s problémami, ktoré nemusia byť zachytené v štandardných testoch.
Človek, ktorý denne pracuje napríklad v stavebníctve, technike, práve, účtovníctve, programovaní, školstve alebo v inom odbornom odbore, môže naraziť na špecifickú chybu modelu, ktorú by bolo inak veľmi ťažké objaviť.
Takýto systém by umožnil tieto reálne skúsenosti používateľov premieňať na štruktúrované údaje využiteľné pri evaluácii AI.
Prečo by sa na tom podieľali používatelia
Používateľ by mal dôvod venovať čas podrobnej spätnej väzbe namiesto toho, aby po nesprávnej odpovedi jednoducho pokračoval ďalej.
Vedeli by, že kvalitný príspevok môže byť rozpoznaný a ocenený.
Vznikol by tak recipročný vzťah:
Používateľ → spätná väzba → overenie → evaluácia → zlepšenie modelu → uznanie alebo odmena
Používateľ by teda nebol iba konzumentom AI služby. Mohol by sa stať aj uznávaným prispievateľom k jej zlepšovaniu.
Pilotný program
Koncept by bolo možné najskôr otestovať na obmedzenej skupine aktívnych používateľov.
OpenAI by mohlo sledovať:
kvalitu odoslanej spätnej väzby,
podiel nezávisle overených príspevkov,
počet dovtedy neznámych problémov, ktoré používatelia odhalili,
využiteľnosť získaných údajov pri evaluácii,
náklady na odmeny,
a to, či odmeňovanie zvyšuje predovšetkým kvalitu spätnej väzby, a nie iba jej množstvo.
Ak by pilot preukázal dostatočnú hodnotu, systém by sa mohol postupne rozšíriť.
Dôležité rozlíšenie
Tento návrh nie je iba žiadosťou:
„Plaťte používateľom za hlásenie chýb.“
Ide o návrh na uznanie konkrétnej formy ľudského príspevku:
reálne hodnotenie AI, analýza chýb, overovanie odpovedí a objavovanie spôsobov, ktorými model zlyháva.
Ak používateľ venuje významné úsilie tomu, aby identifikoval ťažko odhaliteľný problém, preukázal ho, vysvetlil jeho príčinu a pomohol vytvoriť reprodukovateľný testovací prípad, takýto príspevok môže mať podstatne vyššiu hodnotu než jednoduché označenie odpovede ako nesprávnej.
Systém by mal byť schopný tento rozdiel rozpoznať.
Základná myšlienka
Ak môžu používatelia vytvárať merateľnú hodnotu tým, že pomáhajú AI systému identifikovať a pochopiť jeho vlastné nedostatky, mal by existovať mechanizmus, prostredníctvom ktorého bude táto hodnota uznaná a v primeraných prípadoch aj odmenená.