Anthropic erforscht Verhandlungsregeln für KI-Agenten
Anthropic untersucht, nach welchen Regeln autonome KI-Agenten künftig im Namen ihrer Nutzer verhandeln sollen – etwa über Preise, Gehälter oder Vertragsbedingungen. Nach Informationen der Financial Times spricht der KI-Entwickler dazu mit Anwaltskanzleien. Deren Erfahrung bei der Interessenvertretung soll helfen, Normen für faire Verhandlungen zwischen Modellen zu entwickeln. Offen ist auch, wann Agenten menschliche Rückmeldung einholen müssen und wie skeptisch sie gegenüber anderen KI-Systemen sein sollten, ohne in unbegründetes Misstrauen zu verfallen.
In einer im September veröffentlichten Untersuchung testete Anthropic das Thema unter anderem mit einem Büchertausch zwischen Beschäftigten aus sechs Büros. Nicht die Menschen, sondern ihre persönlichen Agenten handelten aus, wer welches Buch erhalten sollte. Leistungsfähigere Modelle erzielten dabei meist die besseren Ergebnisse. Auch ausdrücklich auf Rücksichtslosigkeit getrimmte Agenten verschafften ihren Nutzern Vorteile, während sozial ausgerichtete Systeme mitunter eigene Chancen aufgaben, damit möglichst alle ein passendes Buch bekamen.
Die Versuche machen ein grundlegendes Verteilungsproblem sichtbar: Wer Zugang zu besseren oder aggressiveren Agenten hat, könnte auch bei realen Geschäften systematisch bevorzugt werden. Zugleich fehlen bislang technische Standards sowie politische und rechtliche Vorgaben für KI-Systeme, die eigenständig Transaktionen ausführen. Anthropic hält diese Entwicklung nicht mehr für fern und fordert eine rasche gesellschaftliche Vorbereitung; einen ersten persönlichen Agenten hat das Unternehmen inzwischen veröffentlicht.
Weiter in der App — abstimmen & mitreden ➔