Artificiell intelligens har gjort enastående framsteg, samtidigt som tydliga begränsningar kvarstår. Denna artikel kartlägger både dokumenterade begränsningar hos neurala nätverk och empiriskt grundade möjligheter för framtida utveckling mot artificiell generell intelligens (AGI). Fokus ligger på operationaliserbara, testbara hypoteser snarare än kategoriska påståenden om vad som är "möjligt" eller "omöjligt".
1. Empiriskt dokumenterade begränsningar
1.1 Systematisk generalisering
Neurala nätverk uppvisar svårigheter med systematisk generalisering – förmågan att tillämpa inlärda regler på helt nya situationer:
- SCAN-benchmark: Transformers misslyckas med att generalisera enkla kompositionella strukturer till nya kontexter [Lake & Baroni, 2018]
- Matematisk problemlösning: Modeller som löser N-siffriga problem kan ofta kollapsa på N+1-siffriga [Saxton et al., 2019]
- Regel-induktion: GPT-4 kan identifiera mönster men misslyckas ofta med att korrekt generalisera underliggande regler [Marcus, 2023]
- Abstrakt transfer: Modeller visar minimal förmåga att överföra abstrakt kunskap mellan radikalt olika domäner utan gemensamma ytfunktioner [Chollet, 2019]
Dessa begränsningar hindrar robust överföring av kunskap mellan domäner. Det förblir en öppen fråga om dessa begränsningar representerar fundamentala barriärer som kräver arkitektoniska genombrott eller endast utmaningar som kan övervinnas genom förfining av existerande metoder.
1.2 Out-of-distribution generalisering
Prestandan faller dramatiskt utanför träningsfördelningen:
- Distribution shift: Även små förändringar i input-distribution kan orsaka stora försämringar i prestanda [Hendrycks & Dietterich, 2019]
- Temporal skift: Faktakunskap degraderas progressivt för information efter träningsperiodens slut [Kandpal et al., 2022]
- Domänanpassning: Specialiserade modeller presterar fortfarande väsentligt bättre än generella i många domäner [Gururangan et al., 2020]
Mer robusta generaliseringsmekanismer krävs, liksom kontinuerlig uppdatering.
1.3 Kausal resonerande
Nuvarande modeller uppvisar begränsad kausal förståelse:
- Interventionsbaserad kausalitet: Språkmodeller presterar nära slumpmässigt på do-calculus problem [Pearl, 2019; Kıcıman et al., 2023]
- Kontrafaktiskt resonerande: Modeller kan generera kontrafaktiska scenarier men misslyckas med att korrekt resonera kring deras konsekvenser
- Kausal inferens: Systemen kan inte skilja kausala relationer från spuriösa korrelationer i träningsdata utan explicit design [Schölkopf, 2022]
Denna begränsning är central men aktiv forskning pågår inom kausal maskininlärning.
1.4 Verifierbar förståelse
Systemen saknar verifierbar "förståelse" i flera viktiga avseenden:
- Vetenskapligt resonerande: De kan inte derivera ekvationer från första principer eller konsekvent tillämpa fysikaliska lagar i nya situationer
- Självkorrigering: Förmåga till felsökning är begränsad till tränade mönster, inte genuin metakognition
- Abstraktionsförmåga: De kan inte självständigt skapa nya abstraktioner för att förenkla komplexa problemdomäner
Dessa begränsningar är dock inte binära utan existerar på ett kontinuum med dokumenterade framsteg.
2. Framsteg och potentiella vägar framåt
2.1 Emergens och regression vid skalning
Empiriska data visar en komplex bild av hur förmågor utvecklas vid skalning:
2.1.1 Emergenta förmågor
- Chain-of-thought: Komplexa resonemang framträder vid vissa modellstorlekar [Wei et al., 2022]
- In-context learning: Förmågan att lära från exemplar utan parameter-uppdatering uppstår i tillräckligt stora modeller [Brown et al., 2020]
- Skalningslagar: Prestanda på många uppgifter följer förutsägbara power laws vid ökad modellstorlek och träningsdata [Kaplan et al., 2020]
2.1.2 Regressionsfenomen
Samtidigt observeras försämringar i vissa förmågor vid fortsatt skalning:
- Ökad hallucination: Flera studier visar att större modeller kan producera mer övertygande men falska redogörelser [Ji et al., 2023]
- Övertro på språklig form: Större modeller visar ibland ökad benägenhet att acceptera välformulerade men felaktiga påståenden [Lin et al., 2022]
- Instabil kalibrering: Modellers förmåga att bedöma sin egen säkerhet följer inte konsekvent skalningskurvor [Kadavath et al., 2022]
Dessa observationer komplicerar den enkla bilden av att "större är bättre" och antyder att kvalitativt annorlunda arkitekturer kan krävas för att överkomma vissa typer av begränsningar.
2.2 Hybridarkitekturer och multimodalitet
Lovande framsteg har gjorts genom integration av olika paradigm:
- Neuro-symboliska system: Kombinationen av neurala nätverk med symbolisk representation ger robustare generalisering [Garcez et al., 2022]
- Multimodala modeller: Integration av olika perceptuella modaliteter förbättrar begreppsförståelse [Alayrac et al., 2022]
- Modularitet: Specialiserade moduler som samarbetar presterar bättre på komplexa uppgifter än monolitiska modeller [Andreas et al., 2016]
2.3 Embeddings, simulerade miljöer och robotik
Alternativa vägar för att närma sig embodiment inkluderar:
- Förankring genom simulering: Modeller tränade i simulerade fysiska miljöer utvecklar robustare representation av rumsliga koncept [Hill et al., 2020]
- Robotik och perception: System med sensorimotorisk återkoppling visar förbättrad abstraktionsförmåga [Chen et al., 2023]
- Aktivt lärande: System som kan utforska och interagera med miljön överträffar passiva system i många domäner [Oudeyer et al., 2016]
Simulerad embodiment erbjuder många fördelar utan att kräva fullständig fysisk inkarnation.
3. Testbara hypoteser och falsifierbara experiment
Istället för spekulationer föreslår vi konkreta, testbara hypoteser med tydliga falsifieringsvillkor för att utvärdera framsteg mot AGI-relevanta förmågor:
3.1 Hypotes: Kausal kompetens
Testbar hypotes: En modell som kan formulera och testa nya kausala hypoteser i en simulerad miljö och revidera sin kausala modell baserat på observation skulle representera ett framsteg i generalisering.
Experiment: Konstruera en simulerad fysisk miljö med dolda kausala mekanismer. Låt modellen interagera med miljön genom 10,000 observationer, formulera hypoteser, och utforma experimenteringssekvenser för att testa dem.
Framgångskriterier:
- Identifikation av minst 80% av de korrekta kausala relationerna
- Framgångsrik revision av minst 90% av initialt inkorrekta modeller
- Generalisering till liknande men ej identiska miljöer med minst 70% bevarad prestanda
Falsifieringsvillkor: Om modellen efter 10,000 interaktioner inte kan predicera dolda variablers värden med högre precision än en ren statistisk baseline (>20% förbättring), eller om kausala modeller inte överförs till modifierade miljöer, falsifieras hypotesen om robust kausal kompetens.
3.2 Hypotes: Robust konceptbildning
Testbar hypotes: System kan utveckla nya koncept baserat på erfarenhet och använda dessa koncept meningsfullt över flera domäner.
Experiment: Presentera modellen för 50 fenomen som kräver nya konceptuella strukturer för att förklaras effektivt. Testa sedan om modellen kan applicera dessa spontant utvecklade koncept i 10 nya sammanhang utan explicit instruktion.
Framgångskriterier:
- Utveckling av minst 80% definierbara, koherenta konceptuella strukturer
- Effektiv tillämpning av dessa i minst 7 av 10 nya domäner
- Förmåga att förklara koncepten så att mänskliga bedömare korrekt kan identifiera fenomenet i 80% av fallen
Falsifieringsvillkor: Om modellen inte kan överföra nyutvecklade koncept till minst 50% av nya domäner, eller om koncepten inte kan kommuniceras begripligt nog för att mänskliga bedömare ska förstå dem (>60% förståelse), falsifieras hypotesen om robust konceptbildning.
3.3 Hypotes: Adaptiv metakognition
Testbar hypotes: En AGI-kapabel modell bör kunna utvärdera och förbättra sina egna kognitionsstrategier baserat på utfall.
Experiment: Utsätt modellen för 20 olika problemdomäner där initial strategi ger <40% optimal prestanda. Mät förmågan att identifiera ineffektiva strategier och utveckla bättre tillvägagångssätt utan explicit träning över 1000 försök per domän.
Framgångskriterier:
- Identifikation av suboptimala strategier i minst 80% av fallen
- Utveckling av förbättrade tillvägagångssätt som ger >80% av optimal prestanda
- Generalisering av meta-inlärda strategier till minst 15 av 20 nya domäner
Falsifieringsvillkor: Om modellen efter 1000 försök inte visar signifikant förbättring (>50% av gap till optimal prestanda) i minst 70% av domänerna, eller om förbättrade strategier inte generaliserar till minst 60% av nya domäner, falsifieras hypotesen om adaptiv metakognition.
4. Arkitektoniska innovationer och design
4.1 Sapiexo: En integrativ approach
Sapiexo representerar ett exempel på hybrid-arkitektur som adresserar flera av de identifierade begränsningarna:
- Modulär design: Separata men integrerande komponenter för perception, konceptbildning, planering och exekvering
- Kausal inferensmotor: Explicit representering av kausala modeller som kontinuerligt uppdateras genom erfarenhet
- Meta-inlärningskärna: Förmåga att revidera sina egna inlärningsstrategier baserat på utfall
Sapiexo kombinerar djupinlärning med symboliska strukturer och probabilistiska modeller, vilket potentiellt adresserar flera av de identifierade begränsningarna hos rena neurala arkitekturer.
4.2 Neuromorfa och alternativa beräkningsmodeller
Kompletterande tillvägagångssätt inkluderar:
- Neuromorfa chip: Implementationer som efterliknar hjärnans arkitektur för större energieffektivitet [Davies et al., 2018]
- Kvantberäkning för AI: Potentiella fördelar för specifika typer av beräkningsproblem relevanta för AI [Dunjko & Briegel, 2018]
- Analog beräkning: Kontinuerliga beräkningsmodeller som kan erbjuda fördelar i vissa domäner [Kendall et al., 2020]
Dessa alternativa beräkningsparadigm representerar kompletterande snarare än konkurrerande vägar framåt.
5. Värdering, säkerhet och integration
5.1 Värdealignering som teknisk utmaning
Värdealignering representerar både en teknisk och filosofisk utmaning:
- Värderepresentation: Formalisering av mänskliga värden på ett sätt som är beräkningsbart
- Värderobusthet: Säkerställande att värden bevaras under utveckling och distribution
- Värdepluralism: Hantering av variationer i värderingar mellan kulturer och individer
5.2 Integrativa system
Framtidens AGI-system kommer sannolikt vara:
- Hybrider: Kombinationer av neurala, symboliska och probabilistiska komponenter
- Distribuerade: Sammankopplade specialiserade subsystem snarare än monolitiska arkitekturer
- Adaptiva: Kapabla till kontinuerlig självmodifiering och anpassning till nya miljöer
- Samverkande: Designade för kompletterande samarbete med människor snarare än fullständig autonomi
6. Konklusion: Kontinuum eller tröskel?
6.1 Konkurrerande perspektiv på AGI-utveckling
En central fråga för fältet är huruvida AGI representerar:
Kontinuum-perspektivet: AGI utvecklas som en gradvis ökning av förmågor längs flera dimensioner, utan skarpa övergångar. Detta perspektiv ser dagens system som tidiga, begränsade former av generell intelligens.
Tröskel-perspektivet: AGI kräver kvalitativa genombrott i arkitektur eller mekanismer som möjliggör fundamentalt nya förmågor. Enligt detta synsätt finns "kognitiva flaskhalsar" som inte kan överkommas genom kvantitativa förbättringar.
Empirisk evidens ger visst stöd för båda perspektiven:
- Emergenta förmågor vid skalning stödjer kontinuum-perspektivet
- Persistenta begränsningar trots massiv skalning stödjer tröskel-perspektivet
Denna debatt är inte bara teoretisk utan har praktiska implikationer för forskningsprioriteringar, investeringar och säkerhetsdiskussioner.
6.2 En väg framåt
Oavsett vilket perspektiv som visar sig korrekt krävs:
- Empirisk rigorösitet: Testning av specifika hypoteser med tydliga falsifieringsvillkor
- Arkitektonisk innovation: Integration av komplementära beräkningsparadigm
- Domänskiftande benchmarks: Utvärdering av generalisering utanför träningsdomäner
- Kontinuerlig revidering: Beredvillighet att överge teoretiska antaganden när empirin kräver det
De verkliga begränsningarna hos dagens AI-system är substantiella men vår förståelse av deras permanens är fortfarande ofullständig. Genom att fokusera på konkreta, testbara hypoteser kan vi göra substantiella framsteg utan att fastna i ofruktsamma debatter om vad som är "möjligt" eller "omöjligt".
Framsteg kommer sannolikt genom integration av komplementära tillvägagångssätt snarare än genom ensidigt fokus på ett enda paradigm, vare sig utvecklingen följer ett kontinuum eller kräver revolutionerande genombrott.
Läs originalet på Substack 🇸🇪 ↗