Was ist eine KI-Agenten-Plattform mit menschlicher Freigabe?

Eine KI-Agenten-Plattform mit menschlicher Freigabe ist Software, in der KI-Agenten Aufgaben eigenständig ausführen, jede folgenreiche Aktion aber vor dem Vollzug einem Menschen vorgelegt wird. Ein Chat-Assistent stellt diese Frage nie, weil er nichts tut, sondern antwortet. In Ukeou wird jede Aktion vorher eingeordnet: Was sich zurücknehmen lässt, läuft ohne Rückfrage; was nach draußen wirkt — senden, veröffentlichen, bezahlen, Daten herausgeben — wartet auf deine Freigabe, und Löschen bleibt für Agenten ganz gesperrt. Jede Freigabe bleibt dokumentiert, und verarbeitet wird DSGVO-konform auf Servern in Deutschland.

Erfüllt Ukeou die Anforderung an menschliche Aufsicht nach EU AI Act und DSGVO?

Die menschliche Aufsicht ist bei Ukeou keine Einstellung, sondern die Bauweise: Jede Aktion, die nach draußen wirkt, wartet auf eine namentliche Freigabe, und bleibt sie aus, gilt sie als abgelehnt. Damit trifft die KI keine Entscheidung mit Außenwirkung allein — was Art. 22 DSGVO für automatisierte Einzelentscheidungen verlangt und was der EU AI Act für Systeme mit erhöhtem Risiko als menschliche Aufsicht fordert. Jede Freigabe steht mit Person, Zeitpunkt und Begründung im Verlauf und ist damit nachweisbar, nicht nur behauptet.

Wie verhindere ich, dass eine KI in meinem Namen eine Mail verschickt?

Indem Senden strukturell keine Aktion ist, die ein Agent allein ausführen kann. In Ukeou zählt Zustellen zu den Aktionen ohne Rückweg: Der Agent darf die Mail schreiben, den Anhang bauen und alles fertig vorlegen — abschicken kann er sie nicht. Du siehst vor der Freigabe den Empfänger, den Text, den Anhang und mit welchem Zugang gesendet würde. Ohne dein Ja bleibt es ein Entwurf.

Was passiert, wenn ich eine Freigabe nicht beantworte?

Sie läuft ab und die Aktion unterbleibt. Ein Timeout gilt als Ablehnung, niemals als stilles Ja — sonst wäre es eine Freigabe, die niemand erteilt hat. Die Frist steht an der Anfrage, im Standard sind es 24 Stunden. Der Vorgang bleibt erhalten: Der Entwurf liegt weiter da, du kannst ihn später freigeben oder verwerfen.

Kann ich einer KI dauerhaft etwas erlauben?

Ja, in einem Rahmen, den du selbst ziehst. Du kannst wiederkehrende Aktionen für einen begrenzten Bereich dauerhaft freigeben, statt jedes Mal einzeln zu bestätigen — zum Beispiel innerhalb eines Kreises und bis zu einem Betrag. Der Rahmen ist widerrufbar, jede Nutzung wird protokolliert, und was ohne Rückweg ist, bleibt außerhalb dieser Möglichkeit.

Kann ein Agent einem anderen Agenten Rechte geben, die er selbst nicht hat?

Nein. Wer eine neue Rolle oder eine Routine anlegt, kann ihr nur Rechte mitgeben, die er selbst besitzt — die Rechte eines erzeugten Agenten sind immer eine Teilmenge, nie eine Erweiterung. Das schließt den naheliegenden Umweg: Ein Agent ohne Erlaubnis, Geld auszugeben, kann keine nächtliche Routine anlegen, die es doch tut. Seine Prüfschwelle und seine Selbstständigkeit kann kein Agent selbst hochsetzen; das ist ein menschlicher Akt.

Kann ich alles sofort anhalten?

Ja. Du kannst einen einzelnen Agenten oder den ganzen Workspace anhalten — der große rote Knopf hält alles an, ohne Daten zu verändern, und ist jederzeit wieder lösbar. Angehaltene Agenten starten keine neuen Werkzeugaufrufe. Dazu kannst du jede Sache jederzeit selbst übernehmen und direkt ändern; ein Agent dreht das nie eigenmächtig zurück.

Sehe ich, womit ein Werkzeug aufgerufen wird — oder nur, dass es aufgerufen wird?

Du siehst die Werte. Eine zur Freigabe vorgelegte Werkzeugnutzung zeigt neben dem Werkzeug eine Vorschau der Aufrufwerte, und genau diese Werte werden anschließend ausgeführt — zwischen Anzeige und Vollzug kann sich nichts ändern. Außerdem ist gekennzeichnet, welche Teile eines Entwurfs aus fremden Quellen stammen, damit du weißt, worüber du entscheidest.

Können mehrere Personen freigeben — oder nur ich?

Ihr legt pro Bereich fest, wer freigeben darf: eine Person, mehrere gleichberechtigt, oder eine Freigabe ab einer bestimmten Höhe zusätzlich durch eine zweite. Wer entschieden hat, steht im Verlauf — so bleibt nachvollziehbar, warum etwas rausging, auch wenn du gerade nicht im Haus warst.

KI mit menschlicher Freigabe — Ukeou: erst dein Ja

Eingeordnet, nicht geraten

Jede Aktion hat eine Klasse

Lesen, intern schreiben, veröffentlichen, Geld ausgeben, löschen — jede Aktion trägt genau eine Einordnung, und die entscheidet, ob gefragt wird. Nicht der Agent.

Zwei Arten von Türen

Rückholbar oder nicht

Eine Tür, durch die man zurückgehen kann, darf ein Agent selbstständig öffnen. Eine, durch die es kein Zurück gibt — versendet, bezahlt, veröffentlicht — nie.

Im Zweifel dagegen

Ein Timeout lehnt ab

Eine Freigabe ohne Antwort läuft ab und die Aktion unterbleibt. Ein Timeout, der freigibt, wäre eine Freigabe, die niemand erteilt hat.

Recherchieren, im Web und in verbundenen Quellen lesen

Entwerfen, umschreiben, prüfen, verwerfen

Vorgänge und Notizen im Workspace anlegen

Ergebnisse zur Freigabe vorlegen

Mails senden, veröffentlichen, zustellen

Geld ausgeben oder eine Zahlung auslösen

Daten aus dem Workspace herausgeben

Am geteilten Wissen etwas ändern

Verbindlich zusagen oder zeichnen

Live-Daten löschen oder überschreiben

Kampagnen oder Konten abräumen

Sich selbst mehr Rechte geben

Die eigene Prüfschwelle senken