Zum Inhalt springen

ANWENDUNGSFALL · SOZIALE NETZWERKE

Mensch, Mensch + AI, AI-Agent: auf sozialen Plattformen deutlich machen, wer handelt

AI muss nicht aus sozialen Medien verschwinden. Ihr Einsatz muss zuordenbar werden. Plattformen, die kennzeichnen können, wer oder was einen Beitrag veröffentlicht, geben Nutzern den Kontext, um zu entscheiden, welchen Beiträgen sie vertrauen.

Actor Trust Receipt

Zur Veranschaulichung
Akteur
Mensch
Menschsein
Verifiziert
Identität
Privat verifiziert
Anwesenheit
Kontinuierlich
Menschliche Kontrolle
Hohe Konfidenz
Beteiligung von AI
Niedrig
Kontinuität der Sitzung
Hohe Konfidenz
12:41 UTCact_91fk28...

Kurz gesagt

Für soziale Netzwerke ist Proof of Actor darauf ausgelegt, Plattformen die Unterscheidung und Kennzeichnung von Konten und Interaktionen als MENSCH, MENSCH + AI oder AI-AGENT zu ermöglichen. Grundlage sind Belege und bei Agenten ein verantwortlicher Prinzipal, nicht Vermutungen anhand des Verhaltens.

Die Frage

Stammt dieses Konto, dieser Beitrag oder diese Antwort von einem Menschen, einem Menschen, der AI nutzt, oder einem AI-Agenten, und wer steht dahinter?

Kontext

Handlungsbefugnis ohne Verschleierung

Auf sozialen Plattformen agieren bereits Menschen, Menschen mit AI-Werkzeugen, automatisierte Markenauftritte und autonome Agenten nebeneinander. Wenn nichts davon gekennzeichnet ist, können Nutzer die Vertrauenswürdigkeit nicht richtig einschätzen, koordiniertes unauthentisches Verhalten geht im allgemeinen Geschehen unter, und legitime Automatisierung wird genauso behandelt wie Manipulation.

Pauschale Verbote von Automatisierung sind weder durchsetzbar noch wünschenswert. Nutzer brauchen stattdessen Klarheit darüber, wer handelt: ein eindeutiges, überprüfbares Signal, mit welcher Art von Akteur sie es zu tun haben.

Die vier Akteurszustände von Proof of Actor lassen sich direkt in Kennzeichnungen übersetzen, die eine Plattform anzeigen könnte. Die Plattform entscheidet, wo welcher Zustand zulässig ist.

Wo eine ausdrückliche Bevollmächtigung hilft

  • Antworten und Kommentare in großem Umfang durch nicht offengelegte AI
  • Netzwerke von Konten, die von einem einzigen Akteur betrieben werden
  • Von Agenten geführte Marken- und Dienstkonten
  • Öffentliche Umfragen und Interaktionskennzahlen

Was Proof of Actor feststellen soll

Vertrauensebenen, die in diesem Kontext benötigt werden

Jeder Kontext erfordert einen anderen Teil der Vertrauensinfrastruktur. Hier sind diese Ebenen relevant.

Menschsein

Hinter als menschlich gekennzeichneten Konten steht ein echter Mensch.

Mitwirkung von AI

Die Beteiligung von AI wird abgestuft erfasst und sichtbar gemacht.

Delegation

Agentenkonten weisen aus, für welchen Prinzipal sie handeln.

Verantwortlichkeit

Hinter automatisierter Sprache steht eine verantwortliche Person.

Richtlinie

Typische Kennzeichnungen

Proof of Actor liefert die Nachweise. Ihre Organisation legt die Richtlinie fest und macht sie transparent.

MENSCHMENSCH + AIAI-AGENT
Vorgeschlagene APIKennzeichnungsrichtlinie
// Proposed API - illustrative only
const actor = await ProofOfActor.verify({
  require: ["personhood", "ai_disclosure"]
});

label(post, actor.type); // "human" | "human_ai" | "agent"

Häufig gestellte Fragen

Häufig gestellte Fragen

Müssten alle Nutzer ihre Identität verifizieren?

Nein. Der Nachweis, dass jemand ein Mensch ist, und die Feststellung der Identität sind getrennte Ebenen. Eine Plattform könnte ein Konto als verifizierten Menschen kennzeichnen, ohne dessen Identität offenzulegen.

Ist die Kennzeichnung AI-unterstützter Beiträge eine Sanktion?

Das sollte es nicht sein. MENSCH + AI ist ein legitimer Status. Ziel ist Transparenz, damit Leser den Kontext kennen, nicht die Nutzung von Werkzeugen zu bestrafen.

Wie ließe sich die Verantwortlichkeit von Agentenkonten sicherstellen?

Mit Proof of Authority: Ein Agentenkonto ist so konzipiert, dass es einen verifizierten Prinzipal ausweist, sodass hinter automatisierten Aktivitäten immer jemand steht.

Bei welcher Interaktion fällt es Ihnen schwer, ihr zu vertrauen?

Designpartner helfen festzulegen, welche Nachweise ihre Entscheidungen ändern würden. Erzählen Sie uns von Ihrem Fall.