Anthropic berät sich mit Kanzleien über Regeln für verhandelnde KI-Agenten

Was sich geändert hat – und was bestätigt ist

Anthropic berät sich mit Anwaltskanzleien über Verhandlungstaktiken und Regeln für KI-Agenten, die im Namen von Menschen handeln sollen. Damit geht es um eine praktische Frage, die entsteht, sobald ein automatisiertes System Konditionen aushandeln, Beschwerden bearbeiten oder mit einem anderen Agenten verhandeln kann: Welche Anweisungen soll es befolgen, und welche Grenzen darf es nicht überschreiten?

Bestätigt ist die Konsultation. Die verfügbaren Informationen belegen jedoch nicht, dass bereits ein Verhaltenskodex fertiggestellt wurde. Die beteiligten Kanzleien wurden nicht genannt; konkrete Regeln, ein Zeitplan oder ein Verfahren zur Durchsetzung sind nicht veröffentlicht. Auch ist nicht bestätigt, dass Anthropic die Ideen in das Training oder die Anweisungen von Claude aufgenommen hat.

Diese Unterscheidung ist wichtig: Fachleute zu konsultieren, ist Teil der Produktentwicklung und Governance. Es ist keine Garantie dafür, dass Agenten bereits eigenständig Vereinbarungen abschließen dürfen. Solange keine genaueren öffentlichen Informationen vorliegen, sollte die Initiative als explorativ beschrieben werden.

Warum automatisiertes Verhandeln ein eigenes Problem ist

Ein verhandelnder Agent beschränkt sich nicht darauf, Text zu erzeugen. Er muss möglicherweise Ziele verstehen, auf Vorschläge reagieren, entscheiden, welche Bedingungen er annehmen darf, und erkennen, wann er anhalten oder eine Genehmigung einholen muss. Wenn auch die Gegenseite ein automatisiertes System ist, können Entscheidungen schnell aufeinanderfolgen, ohne dass ein Mensch jeden Schritt in Echtzeit prüft.

Die Herausforderung besteht nicht nur darin, ein günstiges Ergebnis zu erzielen. Ein Agent könnte mehr Informationen als nötig preisgeben, Bedingungen akzeptieren, die den Anweisungen der Nutzerin oder des Nutzers widersprechen, oder einen Vorschlag auf eine Weise formulieren, der diese Person nicht zugestimmt hätte. Außerdem kann strittig sein, ob eine automatische Antwort ein verbindliches Angebot darstellt. Das hängt jedoch vom jeweiligen Kontext und der Gerichtsbarkeit ab.

Deshalb sollte man technische Fähigkeit und rechtliche beziehungsweise organisatorische Befugnis auseinanderhalten. Dass ein System einen Preis vorschlagen oder auf eine Beschwerde reagieren kann, beweist nicht, dass es die Person verpflichten darf. In der Praxis erfordert sichere Autonomie klare Grenzen, nachvollziehbare Aktivitätsprotokolle und die Möglichkeit, an einen Menschen zu eskalieren.

Kanzleien und die Grenzen des bisher Bekannten

Die Konsultation von Kanzleien deutet darauf hin, dass Anthropic juristische Einschätzungen zu einem Thema einholt, das Produktgestaltung, die Vertretung von Interessen und mögliche Vertragsfolgen verbindet. Die vorliegenden Informationen reichen aber nicht aus, um die Kanzleien zu benennen oder festzustellen, ob sie als Berater, Gesprächspartner oder formelle Projektpartner beteiligt sind.

Eine öffentliche Liste konkreter Regeln liegt ebenfalls nicht vor. Daher lässt sich beispielsweise nicht behaupten, es gebe eine vereinbarte Pflicht, offenzulegen, dass ein KI-System verhandelt, eine allgemeine Obergrenze für Preisnachlässe oder ein Verbot, bestimmte Bedingungen anzunehmen. Das wären denkbare Gestaltungsoptionen, aber keine bestätigten Regeln dieser Initiative.

Anthropics veröffentlichte juristische Dokumentation bietet Kontext zu einem anderen Thema: dem Einsatz von Claude bei juristischen Arbeiten, Vertraulichkeit und dem Anwaltsgeheimnis. Anthropic erklärt selbst, dass das Dokument die Perspektive des Unternehmens wiedergibt und keine Rechtsberatung darstellt; die richtige Beurteilung hänge von Gerichtsbarkeit, Mandant und konkreter Sache ab. Dieses Material bestätigt nicht, wie verhandelnde Agenten gesteuert werden sollen.

Welche Rolle die Conceptual Reasoning Fellows spielen

Anthropic stellt außerdem Juristinnen und Juristen sowie Fachleute aus den Geisteswissenschaften für Positionen mit der Bezeichnung „Conceptual Reasoning Fellows“ ein. Die verfügbare Beschreibung verbindet diese Arbeit mit der Verbesserung von Claudes Schlussfolgerungsvermögen in Bereichen, in denen verlässliche Trainingsdaten knapp sind. Das ist eine Arbeit an der Qualität des Denkens, beweist für sich genommen aber nicht, dass diese Fachleute die Regeln für Verhandlungen durch Agenten entwickeln.

Der Zusammenhang zwischen den beiden Initiativen sollte nicht überinterpretiert werden. Die externe Konsultation von Kanzleien betrifft Regeln oder Taktiken für Verhandlungen; die Fellows werden als Teil eines Vorhabens zur Verbesserung des Schlussfolgerungsvermögens des Modells beschrieben. Ohne weitere öffentliche Erläuterungen lässt sich nicht sicher sagen, dass Teams, Ziele oder Produkte dieser Arbeiten übereinstimmen.

Allgemein kann juristisches und geisteswissenschaftliches Fachwissen helfen, Mehrdeutigkeiten zu erkennen, die sich nicht allein durch mehr Daten oder ein leistungsfähigeres Modell lösen lassen. Die Einstellung von Fachleuten beweist jedoch nicht, dass ein Verhalten zuverlässig, fair oder rechtlich zulässig ist. Dafür wären überprüfbare Kriterien, Tests und Aufsicht erforderlich.

Mögliche Folgen für Unternehmen und Nutzer

Für Unternehmen könnte ein verhandelnder Agent wiederkehrende Aufgaben übernehmen, etwa ein überarbeitetes Angebot anzufordern oder Vorschläge zu sortieren. Zeitersparnis macht jedoch nicht überflüssig, festzulegen, wer die Organisation verpflichten darf, welche Daten das System weitergeben kann und wer haftet, wenn es irrtümlich eine Bedingung akzeptiert.

Eine verantwortungsvolle Einführung sollte mit einem eng begrenzten Einsatzbereich beginnen: genehmigte Anweisungen, begrenzte Beträge, bekannte Arten von Verhandlungspartnern und menschliche Prüfung bei Ausnahmen. Außerdem sollte nachvollziehbar dokumentiert werden, welche Informationen der Agent erhalten, was er vorgeschlagen und was er akzeptiert hat. Das sind Empfehlungen für die Bewertung, keine bestätigten Eigenschaften eines bestimmten Anthropic-Produkts.

Für Nutzer steht die Frage der Delegation im Mittelpunkt. Bevor ein Agent verhandeln darf, sollte klar sein, ob er lediglich Entwürfe vorbereitet oder Angebote versenden und Bedingungen annehmen kann, welche Grenzen sich einstellen lassen und wie seine Befugnis widerrufen werden kann. Anthropics Konsultation zeigt, dass das Unternehmen sich mit dem Problem befasst. Antworten auf diese Fragen liegen bislang aber nicht öffentlich vor.

Was noch fehlt, um die tatsächliche Tragweite einzuschätzen

Um beurteilen zu können, ob die Initiative zu einer wirksamen Richtlinie wird, braucht es weitere Einzelheiten, die in den verfügbaren Informationen fehlen: welche Kanzleien konsultiert wurden, worin ihre Empfehlungen bestehen, welchen Status sie haben – intern oder öffentlich – und wie Anthropic sie zu testen plant. Auch müsste geklärt werden, welche Arten von Verhandlungen die Arbeit umfasst.

Die offene technische Frage lautet, wie sich Grundsätze in konsistentes Verhalten umsetzen lassen. Eine Regel könnte in Anweisungen, Prüfungen, Produktbeschränkungen oder einer Kombination daraus festgehalten werden. Es gibt jedoch keine bestätigten Informationen dazu, welchen Weg Anthropic wählen wird. Ebenso wenig lässt sich daraus schließen, dass das Modell eine Grenze immer einhalten wird, nur weil sie schriftlich festgelegt ist.

Die Nachricht ist daher die Konsultation, nicht die Existenz eines fertigen Standards oder die Einführung von Agenten, die Vereinbarungen abschließen können. Die Entwicklung verdient Aufmerksamkeit, weil autonomes Verhandeln Fragen zu Befugnissen, Transparenz und Aufsicht aufwirft. Die konkreten Folgen hängen aber davon ab, welche Regeln letztlich veröffentlicht werden und wie sie umgesetzt werden.

Weiter entdecken

Korrekturen und Transparenz

Wenn du falsche oder veraltete Angaben findest, sende uns die Seite und die zu prüfende Quelle.