Open AI, eine Non-profit-Organisation, die sich mit Künstlicher Intelligenz befasst, arbeitet an einer neuartigen Technik: Zwei KI-Agenten (Symboldbild) debattieren dabei ein Thema und ein menschlicher Schiedsrichter entscheidet, wer die besseren Argumente vorgebracht hat. Im Blog der Organisation heißt es, der Ansatz könnte helfen, KI-Systeme zu trainieren, anpruchsvollere kognitive Aufgaben zu erfüllen, als Menschen es könnten, aber gleichzeitig im Einklang mit menschlichen Vorgaben zu bleiben. Die Methode soll zusammen mit vorläufigen Proof-of-Concept-Experimenten in Kürze vorgestellt und ein Web-Interface für Experimentierzwecke veröffentlicht werden.
1 Comment
Comments are closed.
Witziger wäre womöglich, wenn zwei Humanoide debattieren und die KI den Schiri gibt. Oder zwei KIs debattieren und eine dritte wertet, quasi autonomer Turing-Test. (Damit könnte sich ein Cartoonist wohl wochenlang beschäftigen.)
Andererseits kann KI resp. deren Entwicklung einen einschüchtern auch, zumindest mich und wohl auch die junge Reporterin, die auf einem kleinen Weltuntergang-Symposium mich nach einem Statement fragte, das improvisiert so ausfiel:
Wenn der erste halbwegs tüchtige KI-Virus seine Reise begonnen hat, sich selbst schützend, umschreibend und verteilend, wird die Seinsweise der Menschheit, wie wir sie heute kennen, am Tag 143 nach dieser klitzekleinen Singularität beendet sein.