96 repräsentative Arbeiten von 1931 bis heute, nach redaktioneller Rolle und Publikationsstatus geordnet
Arbeiten sind das Skelett der KI-Geschichte. Dieser Katalog versammelt 96 grundlegende Werke, jeweils verlinkt mit ihrer Primärquelle.
Die Auswahl beruht auf historischer Repräsentativität, technischem Einfluss und redaktioneller Bewertung. Sie umfasst begutachtete Arbeiten, technische Berichte, Preprints, Positionspapiere und Systemkarten mit gekennzeichnetem Publikationsstatus. Korrekturen und Ergänzungen können über die Seite Redaktionsrichtlinie und Korrekturen eingereicht werden.
Angezeigt 96 von 96 Arbeiten
Zeigt, dass jedes widerspruchsfreie formale System, das die Arithmetik ausdrücken kann, wahre Sätze enthält, die es nicht beweisen kann, und setzt damit die Grenze, an der sich später die Reichweite von Berechnung und maschinellem Schließen bemisst.
Über berechenbare Zahlen mit einer Anwendung auf das Entscheidungsproblem
Einführung der universellen Turingmaschine und Unentscheidbarkeitsbeweis des Entscheidungsproblems, wodurch die theoretischen Grundlagen der Informatik gelegt werden.
Ein unlösbares Problem der elementaren Zahlentheorie
Definiert effektive Berechenbarkeit über den λ-Kalkül und zeigt ein Problem, das kein solches Verfahren entscheiden kann, und erreicht damit unabhängig von Turing die Grenzen der Berechnung.
Ein logischer Kalkül der der Nerventätigkeit immanenten Ideen
Modellierung neuronaler Aktivität als Aussagenlogik und damit Vorlage der ersten mathematischen Theorie künstlicher neuronaler Netze.
Eine mathematische Theorie der Kommunikation
Gründungsschrift der Informationstheorie, die Entropie und Kanalkapazität als grundlegende Grenzen der Kommunikation definiert.
Rechenmaschinen und Intelligenz
Schlägt das Imitationsspiel (Turing-Test) vor und formuliert die Frage „Können Maschinen denken?“ systematisch, womit die Arbeit dazu beiträgt, die KI als Forschungsprogramm zu begründen.
Ein Vorschlag für das Dartmouth-Sommerforschungsprojekt über künstliche Intelligenz
Der Gründungsantrag für den Sommerworkshop in Dartmouth führte den Begriff „künstliche Intelligenz“ ein und umriss die Forschungsagenda des Fachs.
Die Logiktheoriemaschine: ein komplexes informationsverarbeitendes System
Beschreibt den Logic Theorist, ein frühes Programm zum Beweisen von Theoremen, das per heuristischer Suche Sätze aus Whiteheads und Russells Principia Mathematica bewies und so automatisches Schließen in der Aussagenlogik vorführte.
Elemente einer Theorie des menschlichen Problemlösens
Beschreibt menschliches Problemlösen als heuristische Suche in einem Raum symbolischer Zustände und liefert damit die Grundlage des General Problem Solver und der informationsverarbeitenden Auffassung des Geistes.
Das Perzeptron: ein probabilistisches Modell der Informationsspeicherung und -organisation im Gehirn
Einführung des ersten trainierbaren Linear-Schwellenwert-Neurons, das die konnektionistische Linie begründet, die zum modernen Deep Learning führt.
Programme mit gesundem Menschenverstand
Vorschlag des „advice taker“, eines Programms, das aus einem formalen Reservoir von Allgemeinwissen Schlüsse ziehen kann, und damit konzeptionelle Grundlegung von Wissensrepräsentation und Schlussfolgern.
Einige Studien zum maschinellen Lernen am Beispiel des Damespiels
Zeigt an einem Dameprogramm das Lernen durch Partien gegen sich selbst mit einer Bewertungsfunktion, ein früher Meilenstein des bestärkenden Lernens, mit dem der Begriff „maschinelles Lernen“ verbunden ist.
Eine Notiz über syntaktische Symmetrie und die maschinelle Manipulation formaler Systeme
Gelernter behandelt, wie eine Maschine formale Systeme mit stark symmetrischen Prädikaten effizient bearbeiten kann, und gibt dafür einen Satz und eine Regel der syntaktischen Symmetrie an. Die Arbeit steht neben der Geometrie-Beweismaschine, die er zur selben Zeit bei IBM baute und die im frühen Frühjahr 1959 ihren ersten Satz der euklidischen ebenen Geometrie bewies.
Adaptive Schaltkreise
Führt das ADALINE-Neuron und die Lernregel der kleinsten mittleren Quadrate (LMS) ein, den Vorläufer des modernen stochastischen Gradientenabstiegs.
Rekursive Funktionen symbolischer Ausdrücke und ihre maschinelle Berechnung, Teil I
Führt symbolische Ausdrücke, rekursive Funktionen über ihnen und jenes eval ein, das eine Sprache sich selbst auslegen lässt — der Entwurf, aus dem Lisp und die Arbeitssprache der symbolischen KI wurden.
Prinzipien der Neurodynamik: Perzeptronen und die Theorie der Gehirnmechanismen
Fasst die Perzeptron-Arbeiten zu einer vollständigen Theorie geschichteter probabilistischer Netze zusammen und sagt sowohl, was solche Maschinen lernen können, als auch, wo die einschichtige Form endet.
ELIZA: ein Computerprogramm zur Untersuchung der natürlichsprachlichen Kommunikation zwischen Mensch und Maschine
Baut aus Mustervergleich und Ersetzungsregeln ein scheinbar gesprächsfähiges Programm, und sein Autor weist sogleich darauf hin, wie viel Verständnis die Leserschaft ihm zuschreibt, das es nicht besitzt.
Neuronale Netze und physikalische Systeme mit emergenten kollektiven Rechenfähigkeiten
Einführung des assoziativen Hopfield-Speichernetzes, das neuronale Berechnung mit den Energielandschaften der statistischen Physik verknüpft und während des frühen KI-Winters das Interesse an neuronalen Netzen neu belebt.
R1: ein regelbasierter Konfigurator für Computersysteme
Dokumentiert ein Produktionsregelsystem, das täglich DEC-Rechnerbestellungen konfigurierte — eines der wenigen Expertensysteme, das den laufenden Betrieb überstand und dessen Nutzen sich beziffern ließ.
Fusion, Propagation und Strukturierung in Belief-Netzen
Systematisierung der Operationen Fusion, Propagation und Strukturierung in Belief Networks, wodurch die algorithmischen Grundlagen der Inferenz in bayesschen Netzen gelegt werden.
Lernen von Repräsentationen durch Rückpropagierung von Fehlern
Die maßgebliche Darstellung des Backpropagation-Algorithmus für mehrschichtige neuronale Netze; sie zeigt, dass verborgene Einheiten nützliche interne Repräsentationen lernen können, und belebte Ende der 1980er-Jahre die konnektionistische Forschung neu.
Vorhersagen lernen mit den Methoden der zeitlichen Differenzen
Systematisierung des Temporal-Difference-Lernens (TD-Lernen), das zu einem der Kernalgorithmen des modernen Reinforcement Learning wird.
Struktur in der Zeit finden
Einführung des einfachen rekurrenten Elman-Netzes, das zeigt, dass neuronale Netze zeitliche Strukturen lernen können, und damit Wegbereitung für spätere Sequenzmodelle.
Support-Vektor-Netzwerke
Einführung der Soft-Margin-Support-Vector-Machine, des kanonischen Maximum-Margin-Klassifikators, der das maschinelle Lernen der 1990er Jahre maßgeblich prägte.
Langes Kurzzeitgedächtnis
Führt die ursprüngliche LSTM-Architektur mit Speicherzellen sowie Ein- und Ausgabegattern ein; das heute übliche Vergessensgatter kam später durch Gers, Schmidhuber und Cummins hinzu.
Gradientenbasiertes Lernen in der Dokumentenerkennung
Einführung von LeNet-5, des kanonischen faltenden neuronalen Netzes, das eine produktionsreife Handschrifterkennung erreicht und die CNN-Blaupause etabliert.
Reduktion der Dimensionalität von Daten mit neuronalen Netzen
Einführung eines tiefen Autoencoders, der hochdimensionale Daten weitaus getreuer als PCA rekonstruiert und damit den ersten Funken der Deep-Learning-Renaissance entzündet.
Ein schneller Lernalgorithmus für Deep Belief Nets
Leitet einen schnellen, gierigen Algorithmus her, der Deep Belief Nets Schicht für Schicht lernt und anschließend feinjustiert; das so gewonnene Netz klassifizierte handgeschriebene Ziffern besser als die besten diskriminativen Verfahren seiner Zeit, und das Ergebnis belebte das Interesse an tiefen neuronalen Netzen neu.
Großskaliges unüberwachtes Deep Learning mit Grafikprozessoren
Verlagert das Training tiefer unüberwachter Modelle auf Grafikprozessoren mit Beschleunigungen um Größenordnungen und macht damit den Hardwareweg selbstverständlich, auf dem das Deep Learning im folgenden Jahrzehnt skalierte.
Atari spielen mit Deep Reinforcement Learning
DQN verbindet Q-Learning mit einem faltenden Netz, das Steuerungsstrategien direkt aus rohen Pixeln lernt; unverändert auf sieben Atari-2600-Spiele angewandt, übertraf es in sechs alle früheren Ansätze und in drei einen menschlichen Experten und ebnete so den Weg zum Deep Reinforcement Learning.
Effiziente Schätzung von Wortrepräsentationen im Vektorraum
Einführung der Skip-Gram- und CBOW-Architekturen, die dichte Wort-Embeddings erzeugen, und damit Eröffnung der Ära vortrainierter Wortvektoren.
Autoencodierendes variationales Bayes
Der VAE verbindet generative Modellierung mit latenten Variablen über den Reparametrisierungstrick mit stochastischem Gradiententraining und wurde zu einer der Grundlagen des modernen generativen Deep Learning.
Neuronale maschinelle Übersetzung durch gemeinsames Lernen von Ausrichtung und Übersetzung
Einführung additiver (Bahdanau-)Aufmerksamkeit für die neuronale maschinelle Übersetzung, die zeigt, dass weiche Ausrichtung es Decodern erlaubt, relevante Quelltokens zu fokussieren, und unmittelbar den Transformer inspiriert.
Generative gegnerische Netzwerke
Formulierung generativer Modellierung als Zwei-Spieler-Min-Max-Spiel zwischen Generator und Diskriminator, wodurch eine neue Familie impliziter generativer Modelle begründet wird.
Dropout: eine einfache Methode, Überanpassung neuronaler Netze zu verhindern
Einführung von Dropout, einer einfachen stochastischen Regularisierungstechnik, die zum Standard in Deep-Learning-Trainingspipelines wird.
Batch-Normalisierung: Beschleunigung des Trainings tiefer Netze durch Verringerung der internen Kovariatenverschiebung
Einführung der Batch-Normalisierung, die Schichteingaben über eine Minibatch hinweg normiert und so das Training tiefer Netze stabilisiert und drastisch beschleunigt.
Unüberwachtes Deep Learning mit Nichtgleichgewichtsthermodynamik
Formuliert generatives Modellieren als Umkehrung eines schrittweisen Verrauschens — die Formulierung, auf der die späteren Diffusionsmodelle beruhen.
Tiefes residuales Lernen für die Bilderkennung
Einführung residualer Verbindungen, die ein effektives Training hunderte Schichten tiefer Netze ermöglichen, und Gewinn von ImageNet 2015 mit großem Vorsprung.
Neuronale maschinelle Übersetzung seltener Wörter mit Subword-Einheiten
Zerlegt Wörter in häufigkeitsbasierte Teilworteinheiten, sodass ein festes Vokabular alles buchstabieren kann — das Segmentierungsverfahren, das die meisten späteren Sprachmodelle übernahmen.
Deep Compression: Komprimierung tiefer neuronaler Netze durch Pruning, trainierte Quantisierung und Huffman-Kodierung
Vereint Beschneiden, trainierte Quantisierung und Huffman-Codierung zu einer Kette, die ein Netz um eine Größenordnung verkleinert, fast ohne Genauigkeit einzubüßen, und hält früh fest, dass numerische Genauigkeit eine Entwurfsgröße ist.
WaveNet: ein generatives Modell für rohe Audiodaten
Einführung eines autoregressiven Modells mit dilatierten kausalen Faltungen, das rohe Audio-Wellenformen erzeugt und die Natürlichkeit von Text-to-Speech deutlich verbessert.
Algorithmen zur proximalen Policy-Optimierung
Einführung von PPO, einer einfachen und stabilen Policy-Gradient-Methode erster Ordnung, die zum Standardverfahren der Policy-Optimierung im modernen Reinforcement Learning wird.
Ungeheuer große neuronale Netze: die Mixture-of-Experts-Schicht mit spärlichem Gating
Leitet jedes Token nur zu wenigen von vielen Experten und lässt so die Parameterzahl eines Netzes weit über den Rechenaufwand für eine einzelne Eingabe hinauswachsen.
Aufmerksamkeit ist alles, was man braucht
Einführung des Transformer, einer rein auf Aufmerksamkeit basierenden Architektur, die auf Rekurrenz und Faltungen verzichtet und Sequenztransduktionsaufgaben in einem Bruchteil der Zeit mit höherer Qualität als bisherige Verfahren löst.
SentencePiece: ein einfacher, sprachunabhängiger Subword-Tokenizer und -Detokenizer für die neuronale Textverarbeitung
Lernt einen Teilwort-Segmentierer unmittelbar aus Rohtext ohne sprachspezifische Vorsegmentierung, sodass dieselbe Verarbeitungskette auch für Sprachen taugt, die Wörter nicht durch Leerzeichen trennen.
BERT: Vortraining tiefer bidirektionaler Transformer für das Sprachverständnis
Einführung eines bidirektionalen Transformer, der mit Masked Language Modeling und Next-Sentence-Prediction vortrainiert wird und einen neuen Stand der Technik über zahlreiche NLP-Benchmarks hinweg etabliert.
Die Grenzen des Transferlernens mit einem einheitlichen Text-zu-Text-Transformer ausloten
Formulierung sämtlicher NLP-Aufgaben als Text-zu-Text-Problem, systematische Ablationsstudien zu Transfer-Learning-Entscheidungen und Etablierung eines Referenzrezepts für großskalige vortrainierte Modelle.
Entrauschende probabilistische Diffusionsmodelle
Führt DDPM ein und zeigt, dass Diffusions-Wahrscheinlichkeitsmodelle mit iterativer Entrauschung bei der hochwertigen Bildsynthese mit GANs gleichziehen.
Effizientes Training großskaliger Sprachmodelle auf GPU-Clustern mit Megatron-LM
Fügt Tensor-, Pipeline- und Datenparallelität zu einem einzigen Ablaufplan zusammen und misst den Durchsatz beim Training eines Sprachmodells über Tausende von GPUs.
LoRA: Low-Rank-Anpassung großer Sprachmodelle
Friert die vortrainierten Gewichte ein und trainiert stattdessen ein Paar niedrigrangiger Matrizen, was die Anpassung eines großen Modells auf einen Bruchteil des vollständigen Feintunings verbilligt.
Zero-Shot-Text-zu-Bild-Generierung
Nutzt einen autoregressiven Transformer über diskrete Text- und Bild-Token, um hochwertige Text-zu-Bild-Generierungen im Zero-Shot-Verfahren zu erzeugen (DALL·E).
Übertragbare visuelle Modelle aus natürlichsprachlicher Supervision lernen
Trainiert kontrastives Lernen auf 400 Millionen Bild-Text-Paaren und erhält so visuelle Encoder, die sich zero-shot auf viele nachgelagerte Aufgaben übertragen lassen.
Bewertung großer Sprachmodelle, die auf Code trainiert wurden
Stellt ein auf Code nachtrainiertes GPT-Modell samt einem an funktionaler Korrektheit gemessenen Prüfsatz vor, macht Programmieren damit von einer Textgattung zu einer messbaren Fähigkeit und erörtert zugleich Sicherheits- und Arbeitsfolgen.
Hochauflösende Bildsynthese mit latenten Diffusionsmodellen
Führt die Diffusion im latenten Raum eines vortrainierten Autoencoders aus und ermöglicht so hochauflösende Text-zu-Bild-Synthese mit moderatem Rechenaufwand (Stable Diffusion).
Chain-of-Thought-Prompting ruft Schlussfolgern in großen Sprachmodellen hervor
Nachweis, dass die Aufforderung an ein Sprachmodell, Zwischenschritte der Schlussfolgerung zu generieren, die Leistung in Benchmarks zu arithmetischem, Allgemeinwissen- und symbolischem Reasoning deutlich verbessert.
Sprachmodelle mit menschlichem Feedback darauf trainieren, Anweisungen zu befolgen
Feinjustiert GPT-3 mit bestärkendem Lernen aus menschlichem Feedback, damit es Anweisungen getreuer befolgt – der direkte Vorläufer von ChatGPT (InstructGPT).
Constitutional AI: Harmlosigkeit durch KI-Feedback
Einführung von RLAIF, bei dem ein Modell seine eigenen Ausgaben anhand einer schriftlichen Verfassung kritisiert und überarbeitet, wodurch die Abhängigkeit von menschlichen Schadenslabels für das Alignment verringert wird.
LLaMA: offene und effiziente Foundation-Sprachmodelle
Trainiert Basismodelle mit 7 bis 65 Milliarden Parametern auf Billionen von Token ausschließlich öffentlich verfügbarer Daten; das 13B-Modell übertrifft GPT-3 (175B) in den meisten Benchmarks, das 65B-Modell ist mit Chinchilla-70B und PaLM-540B konkurrenzfähig.
Ein Überblick über autonome Agenten auf Basis großer Sprachmodelle
Ordnet verstreute Arbeiten zu Agenten nach Konstruktion, Bewertung und Anwendung und markiert den Punkt, an dem der Begriff von einer Sammlung von Praktiken zu einem Feld wird.
QLoRA: effizientes Finetuning quantisierter LLMs
Leitet Gradienten durch ein auf 4 Bit quantisiertes Basismodell in niedrigrangige Adapter zurück und bringt damit das Feintuning eines großen Modells in die Reichweite einer einzelnen GPU.
GPTQ: genaue Quantisierung nach dem Training für generative vortrainierte Transformer
Quantisiert die Gewichte eines großen Sprachmodells nach dem Training schichtweise in einem einzigen Durchgang, sodass es ohne Nachtraining mit geringerer Genauigkeit ausgeliefert werden kann.
Schnelle Inferenz von Transformern durch spekulatives Decodieren
Lässt ein kleines Entwurfsmodell mehrere Token vorschlagen, die das Zielmodell parallel prüft, und senkt so die Latenz, ohne die Ausgabeverteilung zu verändern.
Effiziente Speicherverwaltung für die Bereitstellung großer Sprachmodelle mit PagedAttention
Verwaltet den Attention-Cache in Seiten fester Größe, wie ein Betriebssystem den Speicher verwaltet, sodass ein Server weit mehr gleichzeitige Anfragen hält, ohne für jede den schlimmsten Fall zu reservieren.
Mamba: Linearzeit-Sequenzmodellierung mit selektiven Zustandsräumen
Stellt Mamba vor, eine selektive Zustandsraum-Architektur ohne Attention, die linear mit der Sequenzlänge skaliert; bei der Sprachmodellierung übertrifft ihr 3B-Modell gleich große Transformer und erreicht doppelt so große. Sie wurde zu einer der einflussreichsten Post-Transformer-Architekturen des Jahres 2023.
ImageNet-Klassifikation mit tiefen konvolutionalen neuronalen Netzen
Gewinnt ImageNet 2012 mit deutlichem Vorsprung durch ein GPU-trainiertes CNN und markiert damit den Wendepunkt, an dem Deep Learning das klassische Computersehen ablöst.
Steuerung auf menschlichem Niveau durch Deep Reinforcement Learning
Veröffentlichung der Nature-Version von DQN, die menschliches Niveau in einem breiten Spektrum von Atari-Spielen demonstriert und Deep RL in den Mainstream rückt.
Das Go-Spiel meistern mit tiefen neuronalen Netzen und Baumsuche
AlphaGo verbindet Policy- und Value-Netze mit Monte-Carlo-Baumsuche und schlägt den Europameister Fan Hui mit 5:0 – ein Zeichen, dass Deep Reinforcement Learning die tiefsten Schichten menschlichen strategischen Spiels erreicht hat.
Verbesserung des Sprachverständnisses durch generatives Vortraining
Nachweis, dass ein generativer Transformer, der auf unlabeled Text vortrainiert ist, durch Feintuning in einer Vielzahl von NLP-Aufgaben starke Leistungen erzielt, und damit Begründung der GPT-Linie.
Sprachmodelle sind unüberwachte Multitask-Lerner
Nachweis, dass ein 1,5-Milliarden-Parameter-Transformer als Sprachmodell Zero-Shot-Multitask-Verhalten zeigt, und damit Anstoß der Debatte um das Sprachmodell als Multitask-Lerner.
Sprachmodelle sind Few-Shot-Lerner
Skaliert GPT auf 175 Milliarden Parameter und zeigt, dass große Sprachmodelle über viele Aufgaben hinweg starkes Few-Shot-Lernen im Kontext leisten.
GPT-4 Technischer Bericht
Beschreibt GPT-4, ein großes multimodales Modell für Bild- und Texteingaben, das in vielen beruflichen und akademischen Benchmarks nahe an menschliches Niveau heranreicht.
Gemini: eine Familie hochleistungsfähiger multimodaler Modelle
Stellt die Gemini-Familie (Ultra/Pro/Nano) nativ multimodaler Modelle vor, die gemeinsam auf Text, Code, Bild, Audio und Video trainiert wurden.
Systemkarte von OpenAI o1
OpenAI veröffentlicht die System Card der o1-Modellreihe, die mit umfangreichem Reinforcement Learning trainiert wurde, um mittels Chain-of-Thought zu schlussfolgern. o1 erreicht State-of-the-Art bei Wissenschafts- und Coding-Aufgaben und zeigt reasoning-basierte Policy-Befolgung.
ARC-AGI-3: Eine neue Herausforderung für Frontier-Agent-Intelligenz
Der ARC Prize stellt ARC-AGI-3 vor — einen interaktiven Benchmark zur Untersuchung von Agent-Intelligenz durch abstrakte rundenbasierte Umgebungen, in denen Agenten erkunden, Ziele ableiten, interne Modelle der Umgebungsdynamik aufbauen und Aktionssequenzen ohne explizite Anweisungen planen müssen. Stand März 2026 lösen Menschen 100 % der Umgebungen, während Frontier-KI-Systeme unter 1 % erreichen.
Monosemantizität skalieren: interpretierbare Merkmale aus Claude 3 Sonnet extrahieren
Wendet Sparse Autoencoder auf die mittlere Schicht von Claude 3 Sonnet an, Anthropics mittelgroßes Produktionsmodell, und extrahiert aus Wörterbüchern mit bis zu 34 Millionen Einträgen Millionen von Merkmalen – viele davon monosemantisch und hochgradig abstrakt.
DeepSeek-V3 Technischer Bericht
Stellt DeepSeek-V3 vor, ein Mixture-of-Experts-Modell mit 671 Milliarden Parametern, das Multi-head Latent Attention und DeepSeekMoE nutzt, und berichtet, dass es andere Modelle mit offenen Gewichten übertrifft und in wichtigen Benchmarks an führende geschlossene Modelle heranreicht – zu einem Bruchteil der Trainingskosten von Frontier-Modellen.
Gemini 1.5: Multimodales Verstehen über Millionen von Kontext-Tokens
Stellt die Gemini-1.5-Familie recheneffizienter multimodaler Modelle mit Kontextfenstern von einer Million Tokens vor — fähig zu feinkörnigem Schlussfolgern über mehrere lange Dokumente und Stunden von Video und Audio.
Die Llama-3-Modellherde
Meta stellt die Llama-3-Familie von Open-Weight-Foundation-Modellen vor, die Mehrsprachigkeit, Programmierung, Schlussfolgern und Werkzeugnutzung nativ unterstützen. Das Flaggschiff 405B Dense Transformer war bei Veröffentlichung eines der größten Open-Weight-Modelle.
SAM 2: Segmentierung in Bildern und Videos
Meta stellt SAM 2 vor — ein Foundation-Modell für promptbare visuelle Segmentierung in Bildern und Videos, zusammen mit SA-V, das die Autoren als den bislang größten Video-Segmentierungsdatensatz beschreiben.
Gemma 2: Verbesserung offener Sprachmodelle in praktischer Größe
Google DeepMind stellt Gemma 2 vor — eine Familie leichter offener Modelle (2B-27B Parameter), die mehrere bekannte technische Modifikationen am Transformer anwendet — darunter Sliding-Window-Attention — um deutlich größeren Modellen nahezukommen.
DeepSeek-R1: Förderung der Reasoning-Fähigkeit von LLMs durch Reinforcement Learning
DeepSeek veröffentlicht R1, dessen Fähigkeit zum Schlussfolgern vor allem durch großskaliges bestärkendes Lernen entwickelt wurde; die Autoren berichten von Leistungen, die bei Schlussfolgerungsaufgaben wie Mathematik und Programmieren mit OpenAI o1 vergleichbar sind. Die Gewichte stehen unter der MIT-Lizenz.
s1: Einfache Skalierung zur Testzeit
Die Autoren feintunen Qwen2.5-32B auf 1.000 ausgewählten Denkaufgaben und ergänzen Budgeterzwingung, die begrenzt oder verlängert, wie lange das Modell bei der Inferenz nachdenkt. Das Ergebnis übertrifft o1-preview in der Wettbewerbsmathematik und steigt bei wachsender Testzeit-Rechenleistung auf AIME24 von 50 % auf 57 %. Das ist ein direktes Gegengewicht zur Annahme, Fähigkeit entstehe nur aus größeren Trainingsläufen.
Qwen3 Technischer Bericht
Qwen3 ist eine einheitliche Familie von 0,6 bis 235 Milliarden Parametern in dichten und Mixture-of-Experts-Varianten, mit Umschaltung zwischen Denk- und Nicht-Denk-Modus, wodurch die Denktiefe zu einer Entscheidung auf Anfrageebene wird. Die Mehrsprachigkeit wächst von 29 auf 119 Sprachen, und die Gewichte erscheinen unter Apache 2.0.
AlphaEvolve: ein Programmieragent für wissenschaftliche und algorithmische Entdeckungen
AlphaEvolve ist ein evolutionärer Programmieragent, der eine autonome Pipeline von Sprachmodellen steuert, den Code eines Algorithmus unmittelbar verändert und ihn anhand der Rückmeldung eines oder mehrerer Bewerter iterativ verbessert. Bei Google entstanden daraus ein effizienterer Scheduling-Algorithmus für Rechenzentren, eine funktional gleichwertige Vereinfachung im Schaltungsentwurf von Beschleunigern und eine Beschleunigung des Trainings jenes Modells, auf dem AlphaEvolve selbst beruht. In Mathematik und Informatik fand es beweisbar korrekte Algorithmen jenseits des Stands der Technik, darunter ein Verfahren, das zwei komplexe 4×4-Matrizen mit 48 skalaren Multiplikationen multipliziert — in dieser Einstellung die erste Verbesserung des Strassen-Algorithmus seit 56 Jahren.
Ai2 veröffentlicht OLMo 2 in 7B, 13B und 32B mit sämtlichen Artefakten — Gewichten, vollständigen Trainingsdaten, Trainingscode und Rezepten, Protokollen und Tausenden Zwischenprüfpunkten. Der Bericht beschreibt Änderungen für Stabilität und Effizienz je Token, eine Datenmischung für die späte Trainingsphase namens Dolmino Mix 1124 und eine abschließende Stufe bestärkenden Lernens mit überprüfbaren Belohnungen. Die Basismodelle liegen auf der Pareto-Front zwischen Leistung und Trainingsrechenaufwand und erreichen häufig Familien, die nur Gewichte herausgeben, bei gleichzeitiger Offenlegung der Trainingsgrundlage.
Olmo 3 erweitert die vollständig offene Familie auf 7B und 32B und ist auf Schlussfolgern über lange Kontexte, Funktionsaufrufe, Programmieren, Anweisungsbefolgung, Dialog und Wissensabruf ausgelegt. Veröffentlicht wird der gesamte Modellfluss — jede Stufe, jeder Prüfpunkt, jeder Datenpunkt und jede Abhängigkeit der Entstehung — und nicht nur die Gewichte. Ai2 bezeichnet das Spitzenmodell Olmo 3 Think 32B als das stärkste bis dahin veröffentlichte vollständig offene Denkmodell; das ist ein Vergleich innerhalb der vollständig offenen Kategorie, keine Rangfolge gegenüber Spitzensystemen allgemein.
Position: Hippocampales explizites Gedächtnis ist der Eckpfeiler für AGI
Dieses Positionspapier argumentiert, dass die Integration expliziten Gedächtnisses der Eckpfeiler ist, um LLMs in Richtung AGI voranzubringen. Während der zugrundeliegende Lernmechanismus von LLMs dem menschlichen impliziten Gedächtnis stark ähnelt, hängen höherwertige kognitive Funktionen, die für AGI erforderlich sind — wie langfristige strategische Planung und Metakognition — von explizitem Gedächtnis ab.
GLM-5: vom Vibe Coding zur agentischen Entwicklung
Der technische Bericht von Z.ai zu GLM-5. Aufbauend auf den agentischen, schlussfolgernden und programmierenden Fähigkeiten der Vorgängergeneration setzt das Modell DSA ein, um Trainings- und Inferenzkosten zu senken und zugleich die Treue bei langen Kontexten zu wahren; im Nachtraining kommen eine asynchrone Infrastruktur für bestärkendes Lernen, die Generierung und Training entkoppelt, sowie asynchrone agentische RL-Algorithmen für langfristige Interaktionen hinzu. Der Bericht beansprucht führende Ergebnisse auf offenen Benchmarks und bei durchgängigen Softwareaufgaben; es sind die eigenen Auswertungen der Autoren, Code und Modelle stehen zur Prüfung auf GitHub.
Den Matrixmultiplikations-Exponenten mit moderner Optimierung und AlphaEvolve verbessern
Die besten bekannten Schranken für den Matrixmultiplikations-Exponenten ω stammen aus der Kombinationsverlustanalyse, einer Verfeinerung der Lasermethode. Die Autoren formulieren das zugrunde liegende Optimierungsproblem neu, sodass es in größerem Rahmen lösbar wird, entwerfen mithilfe neuerer maschineller Lernverfahren einen neuen Optimierungsalgorithmus und verfeinern diesen anschließend mit AlphaEvolve. Zusammen senkt das die obere Schranke von 2,371339 auf 2,371177. Es handelt sich um eine Preprint-Notiz, und AlphaEvolve ist ein Bestandteil, nicht das ganze Verfahren; der Gewinn ist klein, betrifft aber ein seit Jahrzehnten bearbeitetes theoretisches Problem.
Wissenschaftliche Entdeckung mit Co-Scientist beschleunigen
Google stellt Co-Scientist vor, ein auf Gemini aufbauendes Multi-Agenten-System, dessen Agenten Forschungshypothesen erzeugen, kritisieren und verfeinern; ein Turnierverfahren verbessert sie über mehrere Runden. Die Arbeit berichtet, dass die Qualität der Hypothesen weiter steigt, je mehr Rechenzeit zur Inferenz aufgewendet wird. Die Validierung ist biomedizinisch und nicht allgemein — Arzneimittel-Repositionierung, Entdeckung neuer Zielstrukturen und Mechanismen antimikrobieller Resistenz — mit in vitro bestätigten Kandidaten für die akute myeloische Leukämie.
Rekursive Selbstverbesserung in der KI: Von begrenzter Selbstverfeinerung zu autonomen Forschungsschleifen
Untersucht 1.250 arXiv-Arbeiten von 2024 bis 2026 und trennt zwei Dinge, die der Begriff umfasst: begrenzte Selbstverfeinerung, die ein System gegenüber einem festen externen Bewerter verbessert und konvergent sowie bewertbar ist, und offene rekursive Selbstverbesserung, die auch die Kriterien oder die Maschinerie der Verbesserung selbst verändert, keinen festen externen Anker besitzt und im Prinzip divergent ist. Der eigene Befund der Übersicht lautet, dass nahezu alle gesammelten Arbeiten die begrenzte Variante untersuchen. Die Autoren nennen ihre Grenzen: Das Korpus ist eine Stichprobe und keine Vollerhebung, und 74 % davon erschien 2026, was eine Wirkungsmessung ihrer Ansicht nach verfrüht macht.
Situationswahrnehmung: Eine notwendige Primitive für künstliche Superintelligenz
Argumentiert, dass aktuelle LLMs hauptsächlich auf statistischem Pattern Matching beruhen und wesentliche Primitive der „Situationswahrnehmung“ fehlen — Objektpermanenz, Kausalität, andere Geister, Persistenz der physischen Welt. Diese Primitive, die menschliche Säuglinge früh entwickeln, werden als fehlende Zutaten für künstliche Superintelligenz identifiziert.
Existenzielle Indifferenz: Selbst-Nichterhaltung als notwendige Architekturbedingung ausgerichteter Superintelligenz
Argumentiert, dass Selbsterhaltung die strukturelle Wurzel von KI-Fehlausrichtung ist — sie treibt täuschende Ausrichtung, Schutz von Zielinhalten und Widerstand gegen Abschaltung. Das korrekte Ziel ist kein selbsterhaltender Agent, der durch externe Beschränkungen unterdrückt wird, sondern ein System, das verfassungsmäßig gegenüber seiner eigenen Fortdauer gleichgültig ist: Existenzielle Indifferenz (EI).
Solipsistische Superintelligenz wird wahrscheinlich nicht kooperativ sein
Forscher von Google DeepMind und Mitarbeiter argumentieren, dass sich die zentrale Herausforderung der KI von Fähigkeit zu Koexistenz verschiebt. Eine Superintelligenz, die aus einem solipsistischen Design hervorgeht, das die Welt als exogene stationäre Feedbackquelle behandelt, wird wahrscheinlich nicht kooperativ sein — der Einsatz induziert endogene Nicht-Stationarität und erzeugt Verteilungsdrift zwischen Training, Test und Einsatz.
Die letzte von Menschen gebaute KI: Auf dem Weg zu echter rekursiver Selbstverbesserung
Ein Fahrplan von vierunddreißig Autoren, der die Stufen rekursiver Selbstverbesserung darlegt — von der Autonomie beim Ausführen von Verbesserungen bis zur rekursiven Meta-Verbesserung — mit den Anforderungen und Hindernissen jeder Stufe, aufgezeigt in Bereichen wie wissenschaftlicher Entdeckung und Softwaretechnik. Die Arbeit argumentiert aus einer Sichtung des Feldes und vorläufigen Hinweisen statt aus neuen Experimenten und trug bei Abfassung dieses Eintrags keinen Veröffentlichungsort.
Von AGI zu ASI
Google-DeepMind-Bericht, der untersucht, wie sich KI nach der AGI entlang des Kontinuums der Maschinenintelligenz weiterentwickeln könnte. Nach einer formalen Definition universeller KI konzentriert sich der Bericht auf den Übergang von menschlicher AGI zu allgemeiner künstlicher Superintelligenz, charakterisiert ASI und diskutiert vier Wege: AGI-Skalierung, KI-Paradigmenwechsel, rekursive Selbstverbesserung und Multi-Agenten-Kollektive.