Blog
4 Min. Lesezeit
Vielleicht haben Sie es schon einmal gehört: Für das Lesen eines Wortes einer vertrauten Sprache spielt es kaum eine Rolle, in welcher Reihenfolge die Buchstaben stehen, solange der erste und der letzte Buchstabe an der richtigen Stelle bleiben. Das menschliche Gehirn korrigiert das Chaos beim Lesen automatisch.
Try it yourself: Probieren Sie es selbst:
Wihon knönte man im Smoemr in den Uulrab feharn, wnen man scih eehroln mhtöce, shöencs Weettr mag und geiciletizhg auch eawts Nuees etkcenden will?
Das Original lautet natürlich:
Wohin könnte man im Sommer in den Urlaub fahren, wenn man sich erholen möchte, schönes Wetter mag und gleichzeitig auch etwas Neues entdecken will?
Es dürfte kaum überraschen, dass ein solcher Satz auch für moderne KI keine Hürde darstellt. Diese Fähigkeit von Sprachmodellen wurde aber bereits im November 2023 erkannt und war durchaus überraschend.
Forscher gingen damals noch einen Schritt weiter und verwürfelten nicht nur die mittleren Buchstaben, sondern den gesamten Wortinhalt:
ionWh öekntn nma im oSmrme ni dne aulbUr fheran, enwn nam ishc hneleor tcheöm, sshnöec tetWer agm udn itglziegheic cuha wstae uNese neteedcnk ilwl?
Auch hier zeigte sich: Sprachmodelle hatten fast keine Schwierigkeiten. Oftmals bemerkten sie die Fehler nicht einmal explizit, sondern antworteten direkt inhaltlich korrekt auf den Satz.
Ohne Einblick in die genauen Trainingsdaten lässt sich schwer sagen, ob die Modelle gezielt mit „verrauschtem“ Text trainiert wurden oder ob diese Stabilität ein emergentes Phänomen riesiger Datenmengen ist. Wahrscheinlicher ist Letzteres: Um „scrambled text“ zu verstehen, muss das Modell nicht den exakten Originalstring berechnen, sondern lediglich genug Signale aus Wortform und Kontext extrahieren, um die wahrscheinlichste Bedeutung zu rekonstruieren. Genau darin sind Large Language Models (LLMs) unschlagbar.
Eines dürfte sicher sein: Schreibfehler in euren Chatnachrichten sind der KI vollkommen egal.
Seit diesen ersten Beobachtungen ist viel passiert. Wir haben die Ära von „Reasoning“ und autonomen Agenten betreten. Wie weit ist die Technik heute?
Einen Eindruck vermittelt folgender Härtetest: Man löscht alle Leerzeichen aus dem ohnehin schon verwürfelten Text:
ionWhöekntnnmaimoSmrmenidneaulbUrfheran,enwnnamishchneleortcheöm,sshnöectetWeragmudnitglziegheiccuhawstaeuNeseneteedcnkilwl?
Gibt man diesen Block einem modernen KI-Agenten und bittet um eine Analyse ohne zu erwähnen, um welche Sprache es sich handelt oder wie das Chaos zustande kam passiert etwas Erstaunliches. Die Analyse dauert zwar wesentlich länger, aber das Ergebnis ist korrekt.
Für einen Menschen wäre dieser Satz ohne Vorwissen über die Verschlüsselung und Sprache fast unmöglich zu entziffern. Die KI schafft es in wenigen Minuten. Das zeigt: In Analysefähigkeiten, die innerhalb des technischen Limits dieser Modelle wie Kontextgröße liegen, sind diese Modelle längst übermenschlich geworden.
In der Entwickler-Community ist diese Gabe nicht unbemerkt geblieben. Abseits vom reinen Coding zeigt sich die Stärke der KI vor allem beim Finden subtiler Fehler im Quellcode. So wurden beispielsweise erst kürzlich im Browser Firefox über hundert Fehler, davon 22 sicherheitsrelevante, allein durch die Analyse modernster Modelle entdeckt.
Doch ihre wahre Stärke spielt die KI bei der Analyse von Altcode (Legacy Code). Altcode wurde häufig in einer Zeit geschrieben, als „Software-Architektur“ noch ein Fremdwort und Speicherplatz extrem limitiert war. Die Folgen:
Die einzige echte Dokumentation existierte oft nur im Kopf des Entwicklers, der heute längst im Ruhestand ist. Das Problem ist gigantisch: Schätzungen zufolge steuern beispielsweise noch immer mehr als 200 Milliarden Zeilen COBOL im Hintergrund unser globales Leben. Von Bankensystemen über das Gesundheitswesen bis hin zum Einzelhandel.
Genau diese Mustererkennung im Chaos, kontextuelle Rekonstruktion und das semantische Verständnis können hier wahre Wunder vollbringen. Der Bedarf ist inzwischen so groß, dass bereits die ersten Start-Ups und Produkte entstehen. Und auch in unseren Softwaresanierungsprojekten darf die KI mittlerweile ihr volles Potenzial nutzen.
Doch Altcode ist nur die Vorstufe eines noch schwierigeren Problems: Was passiert, wenn selbst der Code nicht mehr vorhanden ist?
Normalerweise schreiben Menschen Code in einer Hochsprache. Dieser Code ist lesbar, hat Namen für Funktionen und Kommentare, die erklären, was passiert. Bevor ein Computer dieses Programm ausführen kann, wird es kompiliert. Dabei wird der lesbare Text in einen binären Maschinencode übersetzt. Bei diesem Vorgang geht fast alles verloren, was für uns Menschen hilfreich ist: Variablennamen verschwinden, Strukturen werden flach geklopft und die Logik wird auf ein Minimum reduziert.
Die Arbeit des Reverse Engineerings gleicht einem Puzzle mit einer Million Teilen, das zudem wie ein endloses Telefonbuch aussieht. Es sind Aufgaben, die extrem viel Wissen und Ausdauer erfordern. Bisher war dies eine mühsame Handarbeit für Spezialisten, die Tools wie Decompiler nutzen, um kryptische Assembler-Befehle zu lesen. Doch genau hier setzen ebenfalls die neuen KI-Agenten an.
Wegen des sehr speziellen Themas gibt es bislang noch zu wenige Erfahrungsberichte von Dritten. Deshalb kann ich an dieser Stelle nur auf meine eigene Erfahrung als Reverse-Engineering-Hobbyist zurückgreifen. In meiner Freizeit versuche ich gelegentlich, alte Computerspiele zu analysieren und sie so wieder zum Leben zu erwecken. Der Quellcode ist dabei oft seit Langem verschwunden. Diese Arbeit ist mühsam, aber auch befriedigend, wenn man einen Teil dieses kryptischen Textes aus der fernen Vergangenheit entschlüsselt hat.
Mit den Coding-Agenten kann man hier inzwischen fast von einer Renaissance sprechen. Die KI ist mir in Analysefragen grob um einen Faktor von 100:1 überlegen. Alles unter etwa 3.000 Zeilen Code konnte sie praktisch innerhalb weniger Stunden erschließen. Ich selbst hätte dafür mehrere Wochen gebraucht:
Links sieht man die kryptische Ausgangsbasis. Davon bekommt der Agent 3.000 Zeilen zu sehen. Rechts ist den Kommentaren steht die Analyse des Codes nach mehreren Stunden Arbeit des Agenten.
Natürlich fehlt der KI bei der Analyse oft der Kontext, und viele ihrer Einschätzungen bleiben zunächst recht pauschal. Genau dort komme dann ich ins Spiel und helfe weiter.
Ich habe den Agenten auch testweise kryptische Dateien aus den vergangenen vier Jahrzehnten von meiner Festplatte vorgelegt. Mit der schlichten Frage: „Was ist das für eine Datei? Kannst du sie dekodieren?“ Auch hier erkennt der Agent die Kodierung oft mühelos und schreibt passende Extraktoren.
Die Fähigkeiten dieser frühen Agenten sprechen für mich dafür, dass Reverse Engineering in der Softwareindustrie langfristig kein grundsätzlich ungelöstes Problem mehr ist. Die Aufgabe ist zwar hochkomplex, hat aber einen entscheidenden Vorteil: Ihr Ergebnis ist relativ leicht zu überprüfen und damit trainierbar. Entscheidend ist allein, ob der rekonstruierte Code sich wie das Original verhält. Weil sich fertiger Code kompilieren und der KI zum Rekonstruieren geben lässt, steht dafür praktisch unbegrenzt Trainingsmaterial zur Verfügung.
Bemerkenswert ist zudem, dass die Agenten auf das Reverse Engineering bislang gar nicht explizit trainiert wurden. Die riesige Menge an vorhandenem, oft mittelmäßigem Code scheint bereits genug Struktur zu liefern, damit Transferlernen greift.
Von all den neuen Fähigkeiten der KI-Agenten ist es diese, die mich bisher am meisten beeindruckt: In riesigen, kryptischen Datenmengen verborgene Strukturen zu erkennen, galt lange als zutiefst menschliche Stärke. Doch genau darin ziehen KI-Agenten nun an uns vorbei. Leise und fast unbemerkt.
Ein Beitrag von
ist Lead Software Engineer bei QAware und begleitet sowie berät Projekte insbesondere bei der Gestaltung KI-gestützter Anwendungen, tragfähiger Softwarearchitekturen und technologischer [...]
