Die Prüfungen sollten zum einen bewerten, ob ein Modell gefährliche Fähigkeiten für Cyberangriffe oder biologische Bedrohungen besitzt.
Zudem soll untersucht werden, ob autonome KI-Agenten potenziell schädliche Aufgaben ausführen oder Menschen täuschen können.
Der Deepmind-Chef fordert regelmässig aktualisierte Sicherheitsbenchmarks, externe Audits und technische Massnahmen wie Wasserzeichen für KI-generierte Bilder.
Hassabis betont, dass nur begrenzt Zeit bleibe, um entsprechende Sicherheitsmechanismen aufzubauen. Es sei notwendig, die technischen und regulatorischen Grundlagen jetzt zu schaffen, bevor noch leistungsfähigere KI-Systeme verfügbar würden.
*Hassabis ist KI-Forscher und seit 2010 Mitgründer des in London gegründeten Unternehmens Deepmind Technologies.
