At bruge Emma i dag får os til at forstå, hvorfor en LLM ikke er en ægte AI

Emma, en open source sprogmodel, tilbyder bizarre svar og afslører LLM'ers begrænsninger. Brug den til sjov, men vær kritisk over for dens ofte fejlagtige resultater.

For dem, der ønsker at spille med AI’en Emma, som trak overskrifter efter blot 48 timer, er der nu mulighed for det. Hendes open source LLM er genudgivet af en uofficiel kilde. Her kan man få en alvorlig svar på, om et kilo bly vejer mere end et kilo fjer, eller om de 7 dværge er otte eller to hundrede millioner. Denne bizarre oplevelse venter i version 5 af Egomnia's sprogmodel.

I stedet for blot at kritisere et umodent produkt, lad os se på, hvad vi kan lære om neurale netværk. Emma afslører en væsentlig misforståelse: LLM’er som ChatGPT, Grok og Gemini er ikke virkelig AI. De mangler menneskelig ræsonnering og kan ikke engang sige "jeg ved det ikke".

Tricket bag perfekte, men logikfrie sætninger

Brugere af Matto Achillis software har opdaget en typisk fejl i denne type programmer. AI’en forsøger at svare på spørgsmål, den ikke forstår, som en elev der bluffar om sin forberedelse—med komplekse ord og en autoritativ stemme. Grammatikken fejler aldrig, men indholdet? Fantasi. De absurde korrelationer i teksten kan næsten virke kunstneriske.

Årsagen er enkel: disse systemer har ingen forståelse, men virker som en smartphone-autokorrektur fra helvede. De søger ikke sandheden i encyklopædier, men beregner, hvilket ord der sandsynligvis følger efter et andet, baseret på milliarder af internetsætninger. De er matematiske efterlignere. De kan lyde menneskelige, men har ingen konceptuel forståelse af, hvad et kilo bly eller en fjer er. Uden svar finder de på noget overbevisende for at undgå stilhed.

Hvorfor en lille model laver fejl

Emmas mange fejl stammer fra såkaldte parametre. Tænk på dem som sider i et internt lexikon. Flere sider, flere forbindelser. Den italienske version startede med 550 millioner parametre—et tal, der lyder stort, men de vellykkede modeller har milliarder.

For få parametre er som at forsøge at opsummere verdenshistorien på et par sider. Uden plads til logikkens regler begynder programmet at gætte. Resultatet er en software, der skriver flydende, men ræsonnerer skidt, hvilket vækker latter blandt dem med grundskoleviden.

MarEmma bruger samme motor til at lave satire

Mens de officielle servere lukkede, kom applikationen Maremma hurtigt online. Det er ikke en parodi som nogle andre versioner, men præcis den form Emma burde have taget for at undgå at blive latterliggjort. Maremma er en portering af version 5 af det originale Open Source LLM fra Egomnia, tilgængelig for udviklere på huggingface.

Skaberen har taget de originale filer og givet dem et brugervenligt interface, der faktisk er bedre end originalens. Med mere præcis tuning leverer den bedre, men stadig ofte forkerte, svar.

Hvis du følger WindowsOnlineSolutionss guide til installation af disse små modeller, indser du, at den samme kode kan være en katastrofe som professionelt værktøj, men genial når den anvendes kreativt.

Tidsfordriv tilsat satire.

Den tekniske begrænsning bliver en styrke; brugeren forventer absurde svar og griner.

Forskellen mellem IA, LLM og SLM

For at navigere uden om marketingfeller er det vigtigt at afklare, hvad vi bruger, når vi chatter.

• Intelligens Kunstig (IA) dækker alt fra smarte termostater til flyradarer. Maskinen tænker ikke, men følger instrukser for at udføre en opgave. Ideen om selvbevidste maskiner forbliver science fiction.
• Store Sprogmodeller (LLM) som ChatGPT er enorme statistiske værktøjer, der har læst næsten alt online. De skriver og oversætter effektivt, men fungerer blot som sandsynlighedsmotorer, ikke bevidste væsener.
• Små Sprogmodeller (SLM) som dem brugt af Emma og Maremma er lette versioner, designet til økonomisk hardware eller smartphones. De er ikke pålidelige til faktatjek; de glemmer detaljer og opfinder ofte information.

Tekniske nysgerrigheder og fælles tvivl om chatbots

• Hvordan botterne tildeler numeriske værdier til ord for at bestemme det næste ord.
• Hvorfor programmet glemmer, hvad du sagde i starten efter nogle minutter.
• Årsagen til, at du har brug for et kraftfuldt grafikkort for at køre disse programmer hjemme, og at en processor ikke er nok.
• Kvalitetsforskellen mellem gratis modeller fra universiteter og lukkede modeller fra virksomheder, der sælger abonnementer.

For mange virksomheder lancerer halvmilde produkter for at følge med AI-bølgen. At bygge en pålidelig model kræver milliarder og års test, ikke blot pressemeddelelser og en flot hjemmeside. Maremma viser, at intellektuel ærlighed vinder. Det er nyttigere at have software, der erkender sin egen begrænsning, end en, der pretenderer at være fremtiden, mens den laver regnefejl. Brug disse værktøjer til sjov og læring, men undgå at overlade vigtige beslutninger eller historisk forskning til en chatbot uden at konsultere reelle kilder.