OpenAI: Vorstand bekommt Vetorecht gegen Sam Altman
Ein neues Sicherheitskonzept für OpenAI: Das Unternehmen präsentierte kürzlich das das so genannte „Preparedness Framework“, das OpenAIs „Prozesse zur Verfolgung, Bewertung, Vorhersage und zum Schutz vor katastrophalen Risiken, die von immer leistungsfähigeren Modellen ausgehen“ beschreibt. Zudem stattet der ChatGPT-Hersteller seinen Vorstand mit einem Vetorecht gegenüber der Unternehmensführung aus.
Vorstand mit Vetorecht
Man werde eine „funktionsübergreifende Sicherheitsberatungsgruppe“ einrichten, heißt es von OpenAI, berichtet Business Insider. Diese Gruppe habe die Aufgabe, Berichte über „aufkommende Risiken“ zu prüfen, bevor sie die Unternehmensleitung und den Vorstand auf den neuesten Stand bringt. Die endgültige Entscheidungsbefugnis soll dann beim Vorstand liegen – und nicht mehr bei CEO Sam Altman. „Während die Führung die Entscheidungsgewalt hat, hat der Vorstand das Recht, Entscheidungen rückgängig zu machen“, schrieb OpenAI in seiner Erklärung.
OpenAI: Risikobewertung anhand Bedrohungen
Künftig wird jede Kategorie von KI nach verschiedenen Kriterien bewertet und in eine von vier Risikostufen eingeordnet – von „niedrig“ bis „kritisch“. Die Kriterien zur Bewertung: „Cybersicherheit; atomare, chemische, biologische oder radiologische Bedrohung; Überzeugungskraft und die Autonomie des Modells“. Kritisch wäre etwa eine KI, die KI-Forschung betreiben und so für eine „Intelligenzexplosion“ sorgen könnte. Das beschreibt einen „unkontrollierbaren Prozess der Selbstverbesserung“. Verwendet werden sollen nur mehr KIs, die maximal als „mittel“, die zweithöchste Stufe, bewertet werden. „Kritische“ Modelle sollen erst gar nicht weiterentwickelt werden dürfen.
OpenAI begrüßte im vergangenen Monat einen neuen ursprünglichen Vorstand, nachdem der vorherige Vorstand Altman kurzzeitig aus dem Unternehmen verdrängt hatte (wir haben berichtet). Der Vorstand besteht derzeit aus Bret Taylor, Larry Summers und Adam D’Angelo. Davor hatte Microsoft verkündet, dass Altman gemeinsam mit OpenAI-Mitgründer Greg Brockman ein „Advanced AI Research Team“ bei Microsoft führen solle – daraufhin kündigten fast alle der etwa 700 Mitarbeiter:innen an, dass sie ebenfalls zu Microsoft wechseln würden, wenn der Vorstand nicht gehen würde.
