KI-Forscher · Entwirft und testet die Algorithmen hinter der maschinellen Intelligenz in einem Bereich, der derzeit darum kämpft, einen wachsenden Teil seines eigenen Forschungsprozesses zu automatisieren.
Das Bild eines Forschers, der in einem Geistesblitz einen cleveren neuen Algorithmus erfindet, ist größtenteils falsch. Die meisten Tage werden damit verbracht, Experimente durchzuführen, die auf nicht aussagekräftige Weise scheitern, man liest, was hunderte andere Labore diesen Monat veröffentlicht haben, und versucht herauszufinden, ob ein vielversprechendes Ergebnis echt ist oder ein Artefakt eines glücklichen Zufallssamens.
Bei dem in diesem Bereich weitergegebenen Handwerk geht es weniger darum, welche Architektur man sich merken sollte, als vielmehr um experimentelle Disziplin: wie man herausfindet, was tatsächlich zu einer Verbesserung geführt hat, wann man einem Benchmark vertrauen sollte und wann nicht und wie man verhindern kann, dass ein negatives Ergebnis stillschweigend weggeworfen wird.
Lineare Algebra, Wahrscheinlichkeitsrechnung, Berechnung und Optimierung sind die Sprachen, in denen fast jedes Modell und jede Arbeit geschrieben wird; Ohne sie sind neue Methoden nicht nur ungewohnt, sondern unlesbar.
Schreiben Sie effizienten Code in Python und einem Deep-Learning-Framework und verstehen Sie ausreichend verteilte Systemtechnik, um Trainingsjobs auf Dutzenden oder Tausenden von Prozessoren auszuführen.
Entwerfen Sie kontrollierte Vergleiche, führen Sie genügend zufällige Seeds aus, um einem Ergebnis zu vertrauen, und isolieren Sie, welche spezifische Änderung tatsächlich eine Verbesserung verursacht hat, anstatt die offensichtliche Erklärung anzunehmen.
Mit der Veröffentlichung von Zehntausenden neuer Vorabdrucke pro Jahr Schritt zu halten und zu erkennen, welche davon wirklich wichtig sind, ist mittlerweile eine eigenständige Fähigkeit.
Die Wahl einer der vielen plausiblen Richtungen ist Monate der Berechnung und Aufmerksamkeit wert – die Fähigkeit, die am schwierigsten direkt vermittelt werden kann und die normalerweise durch die Zusammenarbeit mit einem erfahrenen Berater erlernt wird.
Ein Ergebnis, das nicht klar genug formuliert werden kann, um die Begutachtung durch Fachkollegen zu überstehen, oder einem nicht spezialisierten Geldgeber erklärt werden kann, hat Schwierigkeiten, irgendeine Wirkung zu erzielen, egal wie real es ist.
Überprüfen Sie die Ergebnisse der über Nacht durchgeführten Experimente und überfliegen Sie neue arXiv-Preprints und Diskussionen im Laborchat, bevor die konzentrierte Arbeit des Tages beginnt.
Der am besten geschützte Block des Tages, der damit verbracht wird, Trainingscode zu schreiben, ein Modell zu debuggen oder das nächste Experiment in einer Reihe zu entwerfen.
Wird oft mit Laborkollegen gegessen und ist häufig der Rahmen für einen informellen Gedankenaustausch, zu dem es bei einem geplanten Treffen selten kommt.
Laborbesprechungen, Einzelgespräche mit einem Berater oder Manager und eine rotierende Lesegruppe, in der jemand einen Aufsatz vorträgt, den die Gruppe verstehen muss.
Erforschen Sie, warum ein Experiment funktioniert hat oder nicht, aktualisieren Sie ein gemeinsames Ergebnisdokument und entwerfen Sie Abschnitte eines Papiers vor Ablauf einer Frist.
Persönliche Zeit – außer in den Wochen vor einem wichtigen Konferenztermin, wenn die Abende und Wochenenden routinemäßig in der Fertigstellung von Experimenten verschwinden.
Handwerkswissen, das Praktiker tatsächlich weitergeben — keine Motivationssprüche.
Bevor Sie einem Trainingslauf für den gesamten Datensatz vertrauen, prüfen Sie, ob das Modell seinen Verlust bei einigen wenigen Beispielen auf nahezu Null bringen kann. Wenn es sich nicht einmal zehn Beispiele merken kann, liegt der Fehler im Code und nicht in den Daten.
Ein überraschender Anteil der veröffentlichten „Verbesserungen“ schrumpft oder verschwindet, sobald die Vergleichsbasislinie das gleiche Hyperparameter-Suchbudget wie die neue Methode erhält – ein Muster, das sowohl in GANs als auch in Sprachmodellen dokumentiert ist.
Wenn eine neue Methode mit fünf gebündelten Änderungen eine alte übertrifft, entfernen Sie jede Änderung einzeln und testen Sie sie erneut, bevor Sie eine einzelne Idee erwähnen – andernfalls können die Geschichte der Arbeit und die tatsächliche Ursache des Gewinns stillschweigend auseinandergehen.
Eine Bestenlistenzahl misst die allgemeinen Fähigkeiten nicht mehr, sobald Forscher sich wiederholt direkt dagegen orientieren – eine Dynamik, die seit langem als Goodharts Gesetz bekannt ist und in Kritiken zur Benchmark-Sättigung in NLP und Vision direkt zitiert wird.
Die frühzeitige Ausarbeitung der Kernaussagen eines Papiers erzwingt ein konkretes, verfälschbares Ziel für die verbleibenden Experimente, anstatt zunächst Experimente durchzuführen und eine Erzählung rund um das zusammenzustellen, was sich als erfolgreich erwiesen hat.
Fehlgeschlagene Konfigurationen, Seeds und Hyperparameter werden normalerweise weggeworfen, wenn ein Lauf fehlschlägt, aber ihre Aufzeichnung verhindert, dass ein Labor sechs Monate später stillschweigend dieselbe Sackgasse unter einem anderen Namen erneut ausführen kann.
Die beiden vorherrschenden Deep-Learning-Frameworks; PyTorch ist in den meisten akademischen und industriellen Forschungen führend, während JAX für groß angelegte und mit Google verbundene Arbeiten beliebt ist.
Geteilte Cluster, geplant mit Tools wie Slurm, die einen Modellentwurf in ein tatsächlich trainiertes Netzwerk verwandeln – oft die größte Einschränkung für die möglichen Experimente.
Der De-facto-Publikationsort des Fachgebiets in der Praxis: Neue Ergebnisse zirkulieren hier als Vorabdrucke, oft Monate vorher oder ganz ohne formelle Begutachtung durch Fachkollegen.
Dashboards zur Experimentverfolgung, die Verlustkurven, Hyperparameter und Ausgaben über Hunderte von Durchläufen hinweg protokollieren, ohne die der Vergleich von Experimenten nicht möglich wäre.
Interaktive Umgebungen für die schnelle Datenexploration, das Debuggen des Verhaltens eines Modells anhand bestimmter Beispiele und die Erstellung von Prototypen, bevor der Code in eine vollständige Trainingspipeline übergeht.
Das Erzielen einer partiellen Genauigkeitsverbesserung durch eine zusätzliche Hyperparametersuche oder -skalierung ohne eine Hypothese darüber, warum dies funktioniert, führt zu Ergebnissen, auf denen andere nur schwer aufbauen können, selbst wenn die Zahl selbst real ist.
Das Ausführen vieler Seeds und das Veröffentlichen nur des besten Seeds anstelle eines Mittelwerts und einer Spread lässt gewöhnliches Rauschen wie einen echten Effekt aussehen – ein Problem, das in Reinforcement-Learning- und NLP-Reproduzierbarkeitsstudien immer wieder hervorgehoben wird.
Testdaten, die in einen Korpus vor dem Training gelangt sind, oder ein Rechenbudget, das stillschweigend größer ist als ein Papierbericht, können die Reproduzierbarkeit eines Ergebnisses unmöglich machen – und wenn sie einmal entdeckt werden, schädigen sie die Glaubwürdigkeit eines Forschers mehr, als dies bei einem bescheidenen, ehrlichen Ergebnis der Fall gewesen wäre.
Die nächsten Nachbarn im Sechs-Werte-Profil — nicht nur im selben Feld.
Entwirft und fertigt die Transistoren in jedem Computer, Telefon und jeder Waffe — mit Maschinen, die so präzise sind, dass sie nur wenige Fabriken der Welt betreiben können.
KI-resistent 60 📦Baut die Systeme, die Machine-Learning-Modelle in der Produktion trainieren, bereitstellen, überwachen und regeln.
KI-resistent 54 🩺Diagnostiziert Krankheiten und begleitet Gesundheit über Jahre hinweg durch Untersuchung und Beweise, nicht eine einzelne Operation — der Generalist und langfristige Wegbegleiter der Medizin.
KI-resistent 67 🧠Diagnostiziert und behandelt psychische Erkrankungen mit Medikamenten und Therapie – eine der wenigen medizinischen Fachrichtungen mit der gesetzlichen Befugnis, Patienten in der Krise gegen ihren Willen unterzubringen.
KI-resistent 73 👔Berät Mandanten, verfasst die Dokumente, die sie binden, und vertritt ihren Fall vor Gericht — und haftet dabei persönlich, wenn der Rat falsch war.
KI-resistent 58 🔐Schützt Systeme, Daten und Menschen, indem digitale Angriffe erkannt, verhindert und abgewehrt werden.
KI-resistent 63Schreibt, testet und wartet den Code, der das moderne Leben antreibt — und beobachtet als einer der ersten Berufe, wie KI seine eigene tägliche Arbeit automatisiert.
KI-resistent 35 🛰️Entwirft, analysiert und zertifiziert die Flugzeuge, Raketen und Raumfahrzeuge, die den Boden verlassen, und arbeitet dabei mit Sicherheitsmargen, die keinen Raum für Vermutungen lassen.
KI-resistent 74 🌉Der Beruf, der Flüsse, Felsen und Schwerkraft in Brücken, Straßen und sauberes Wasser verwandelt – seit Imhotep das stille tragende Gewerbe der Zivilisation.
KI-resistent 72 🔌Entwirft und fertigt die Transistoren in jedem Computer, Telefon und jeder Waffe — mit Maschinen, die so präzise sind, dass sie nur wenige Fabriken der Welt betreiben können.
KI-resistent 60 🦾Entwirft die Maschinen, die die physische Welt wahrnehmen, entscheiden und in ihr handeln — das schwere Problem war nie Intelligenz, sondern die Welt selbst.
KI-resistent 65 🔐Schützt Systeme, Daten und Menschen, indem digitale Angriffe erkannt, verhindert und abgewehrt werden.
KI-resistent 63 📦Baut die Systeme, die Machine-Learning-Modelle in der Produktion trainieren, bereitstellen, überwachen und regeln.
KI-resistent 54 🌬️Entwirft, baut und verbessert Wind-, Solar-, Speicher- und Netzsysteme, die erneuerbare Ressourcen in verlässlichen Strom verwandeln.
KI-resistent 72