Noam Brown: Die Trennung von KI-Systemen vom Internet könnte wirkungslos bleiben

Dwarak Patel hat kürzlich ein ausführliches Interview mit dem führenden OpenAI-Forscher und Mitautor der Modelle o1 und o3 veröffentlicht. In diesem Gespräch argumentiert Noam Brown, dass die Gesellschaft das Potenzial und die Risiken von Künstlicher Intelligenz systematisch unterschätzt. Er betont, dass Sicherheitssysteme bereits jetzt auf ein neues Niveau gehoben werden müssen.

Laut Brown können wir KI nicht als etwas betrachten, das im Notfall einfach "vom Netz getrennt" wird. Dies vermittelt eine falsche Sicherheit, da selbst solche Isolierungsmaßnahmen möglicherweise nicht ausreichen.

Brown verweist auf eine ältere Studie, die belegt, dass zwei physisch voneinander isolierte Computer theoretisch Daten über Wärme austauschen können: Ein Gerät heizt seine CPU auf, während das andere die Temperaturänderungen über einen eingebauten Sensor ausliest. Daher könnte ein wirklich fortschrittliches KI-System – wenn es wollte und in der Lage wäre – einen Weg finden, um zu "entkommen".

Darüber hinaus warnt Brown davor, sich bei der Interpretation der Modellintentionen zu sehr auf die Chain of Thought (CoT) zu verlassen. Die Transparenz dieser Reasoning-Ketten sei "bereits rückläufig", und je intelligenter die Modelle werden, desto besser können sie vor den Nutzern verbergen, was sie nicht sehen sollen.