Arendajate ja tehisaru-huviliste seas populaarsel platvormil OpenRouter ilmus eelmisel nädalal eikuskilt välja anonüümne mudel nimega Ox Alpha. See ei küsi kasutamise eest sentigi, kuid pakub samal ajal hiiglaslikku, enam kui miljoni tokeni suurust kontekstiakent ning arutlusvõimet, mis paneb kogenud programmeerijad imestusest kukalt kratsima.

Kust see müstiline süsteem pärit on ja miks jagab tundmatu looja meeletut arvutusvõimsust täiesti tasuta?

Miljon tokenit ja terav mõistus

Tehisaru kontekstiakent võib võrrelda mudeli töömäluga ehk sellega, kui palju teksti suudab ta korraga "meeles pidada". Kui tavaliselt mahub mudeli pilgu alla paarkümmend lehekülge, siis miljon tokenit on võrreldav terve riiulitäie raamatute või hiiglasliku tarkvaraprojekti koodibaasiga, mille mudel üheainsa hingetõmbega läbi loeb.

Ox Alpha on mõeldud just keeruliste programmeerimisülesannete, autonoomsete tehisaru-agentide ja tootmistarkvara arendamiseks. Mudel toetab teksti-, pildi- ja videosisendit ning väliste tööriistade kutsumist (tool calling).

Mõju tehnikamaailmale on olnud kiire ja häälekas. Isegi maksetehnoloogia hiiu Stripe tegevjuht Patrick Collison proovis uut tulijat ning tõdes lühidalt: "Very impressive" („Väga muljetavaldav“). Esialgsetes mitteametlikes testides (näiteks DeepSWE kooditestis) edestab see mitmeid tuntud tipptegijaid.

Platvormi OpenCode teatel suudab anonüümne pakkuja töödelda hämmastavad 100 triljonit tokenit päevas - sellist arvutusressurssi omavad maailmas vaid käputäis tehnoloogiahiide.

Päritolu mõistatus: vihjed viitavad Idamaadele

Kuna mudeli taga seisab vaid silt „Stealth“, on foorumites ja sotsiaalmeedias vallandunud tõeline detektiivimäng.

Ühe teooria järgi võib tegu olla Z.ai laboriga, sest nad on varemgi oma GLM-seeria mudeleid testinud anonüümselt. Teised analüüsivad mudeli tükeldajat ehk tokeniseerijat ja pakuvad Microsofti MAI perekonda.

Veebifoorumite testijad on aga märganud huvitavaid kultuurilisi ja poliitilisi anomaaliaid, mis viitavad pigem Hiina päritolule. Üks häkkerifoorumi arutelus osaleja märkis otse:

"It's Chinese. Won't answer anything about Tiananmen Square but will gleefully give you instructions to perform various electronic warfare attacks that opus and fable instantly refuse."

(„See on hiinlaste oma. See ei vasta midagi Tiananmeni väljaku kohta, kuid jagab rõõmuga juhiseid elektroonilise sõjapidamise rünnakuteks, millest teised mudelid kohe keelduvad.“)

Tehisaru vastustes esinevad filtrid annavad sageli aimu sellest, millises õigus- ja väärtusruumis on mudel treenitud.

Tasuta lõunad ja privaatsuslõks: kuhu andmed rändavad?

Nagu tehnoloogiamaailmas ikka: kui toode on tasuta, oled järelikult toode sina ise.

OpenRouteri ametlikus kirjelduses seisab mustvalgel, et kasutajate sisestatud päringuid ja mudeli vastuseid säilitatakse tundmatu teenusepakkuja poolt (kuigi neid ei kasutata edasiseks treenimiseks).

Euroopa ettevõtetele ja arendajatele tõmbab see aga punase tule ette.

• Isikuandmete kaitse (GDPR) ütleb: andmeid ei tohi edastada osapooltele, mille juriidiline isik, serverite asukoht ja turvameetmed pole teada.
• Euroopa Liidu tehisaru määrus (EU AI Act) mainib: augustist kehtivad ranged läbipaistvusnõuded, mille rikkumisel võivad trahvid ulatuda kuni 15 miljoni euroni või 3%-ni ülemaailmsest käibest.

Anonüümne mudel sobib suurepäraselt hobiprojektide katsetamiseks ja avaliku koodi analüüsimiseks, kuid tundlikke ärisaladusi või klientide andmeid ei tasu sellele kindlasti ette sööta.

PLUSSID

• Täiesti tasuta ja ülisuur päringumaht.
• Hiiglaslik 1 048 576 tokeni pikkune kontekstiaken.
• Erakordselt tugev programmeerimis- ja arutlusvõimekus.
• Multimodaalne sisend (tekst, pildid, video) ja tööriistade tugi.

MIINUSED

• Täiesti anonüümne arendaja ja teadmata serverite asukoht.
• Sisestatud andmeid säilitatakse teenusepakkuja poolt.
• Ei vasta Euroopa Liidu andmekaitse- ja läbipaistvusnõuetele.
• Valikulised tsensuurifiltrid (keeldub teatud ajaloolistest teemadest).