Het idee van een ‘Manhattan Project voor AGI’ verwijst naar een grootse, door de overheid gesteunde inspanning om AI-systemen met ‘bovenmenselijke’ intelligentie te ontwikkelen, ook wel bekend als AGI. Dit concept is geïnspireerd door het Manhattan Project uit de jaren 40, dat leidde tot de ontwikkeling van de atoombom.
Waarom is dit geen goed idee?
In een recent beleidsdocument, geschreven door oud-Google CEO Eric Schmidt, Scale AI CEO Alexandr Wang en Center for AI Safety directeur Dan Hendrycks, wordt gewaarschuwd voor een dergelijke aanpak. Hier zijn de redenen waarom zij dit idee afwijzen:
- Internationale spanningen: Een agressieve poging van de VS om exclusief controle te krijgen over superintelligente AI-systemen zou heftige vergelding van China kunnen uitlokken, mogelijk in de vorm van een cyberaanval. Dit zou de internationale betrekkingen kunnen destabiliseren.
- Gevaar van escalatie: Het streven naar een superwapen en wereldwijde controle kan leiden tot vijandige tegenmaatregelen en escalerende spanningen, waardoor de stabiliteit die de strategie beoogt te waarborgen, juist in gevaar komt.
- Mutual Assured AI Malfunction (MAIM): Schmidt en zijn co-auteurs introduceren het concept van MAIM, waarbij overheden dreigende AI-projecten proactief kunnen uitschakelen in plaats van te wachten tot vijanden AGI als wapen inzetten.
Een alternatieve aanpak
In plaats van te focussen op het ‘winnen van de race naar superintelligentie’, pleiten de auteurs voor een meer afgewogen benadering. Ze stellen voor dat de VS zich moet richten op het ontwikkelen van methoden die andere landen afschrikken om superintelligente AI te creëren. Dit zou kunnen betekenen dat de VS haar arsenaal aan cyberaanvallen uitbreidt om dreigende AI-projecten in andere landen uit te schakelen en de toegang van vijanden tot geavanceerde AI-chips en open-sourcemodellen te beperken.
Conclusie
Het beleidsdocument van Schmidt, Wang en Hendrycks biedt een derde weg: een afgewogen aanpak die defensieve strategieën prioriteert boven een race naar superintelligentie. Dit standpunt is opmerkelijk, gezien Schmidts eerdere pleidooi voor agressieve concurrentie met China op het gebied van AI. Terwijl de VS doorgaat met het ontwikkelen van AI, suggereren de auteurs dat een defensieve benadering wellicht wijzer zou zijn.
0 reacties