Zum Hauptinhalt springen
  1. Artikel/

Das Verhältnis von Rauschen zu Wert: Wenn KI-Output die menschliche Aufmerksamkeit überholt

Nuno Coração
Autor
Nuno Coração
Principal Product Manager @ Elastic
Inhaltsverzeichnis

Als ich anfing, Slack beruflich zu nutzen, fiel mir auf, wie viel von meinem Tag dafür draufging zu entscheiden, was ich ignoriere.

Kommunikation war zu einem Hintergrundprozess in Vollzeit geworden. Slack-Nachrichten, Threads, Reaktionen, E-Mails, geteilte Dokumente und Zoom-Meetings haben es leichter gemacht, Menschen zu erreichen. Sie haben aber auch mehr Orte geschaffen, an denen man nachsehen muss, mehr Gespräche, denen man folgen muss, und mehr Entscheidungen, die über den ganzen Tag verteilt eintreffen.

Manchmal fühlte es sich an wie ein Büro, in dem alle zehn Minuten jemand aufsteht und allen anderen etwas zuruft. Jede Unterbrechung ist vielleicht für irgendjemanden nützlich. Alle anderen müssen trotzdem ein wenig Aufmerksamkeit aufwenden, um zu entscheiden, ob sie das betrifft.

Generative KI hat dieses Rauschen nicht erfunden. Sie hat es industrialisiert.

In den letzten zwei Jahren sind die Kosten dafür, eine plausible Nachricht, ein Dokument, eine Präsentation oder ein Stück Code zu produzieren, in sich zusammengefallen. Dazu kommen jetzt Agenten, die Informationen verarbeiten und neue Artefakte erzeugen, während niemand zusieht. Jeder Mensch kann mehr produzieren, jedes Team kann mehr anfordern, und jedes System kann mehr melden.

Unsere Fähigkeit, aufmerksam zu sein, hat sich überhaupt nicht verändert. Herbert Simon hat das Muster schon 1971 erkannt: Ein Reichtum an Information erzeugt eine Armut an Aufmerksamkeit.

Von Signal und Rauschen zu Rauschen und Wert
#

Meistens beschreiben wir das als Problem des Signal-Rausch-Verhältnisses. Dabei geht etwas Wichtiges verloren.

Eine Nachricht kann relevant sein, gut geschrieben, an mich gerichtet und trotzdem keinen Wert haben. Ein Dokument kann korrekt und poliert sein, ohne eine Entscheidung zu verändern. Code kann funktionieren und trotzdem das Falsche sein, um es in ein Produkt einzubauen.

Signal ist das, was relevant wirkt. Wert ist das, was verändert, was ich verstehe, entscheide oder tue.

Früher lag beides näher beieinander. Ein durchdachtes Dokument zu schreiben hat Zeit gekostet, also war der Aufwand dahinter zumindest ein Hinweis darauf, dass es wichtig war. Dieser Filter war nie perfekt, aber es gab ihn. Heute kann etwas Poliertes einen einzigen Prompt kosten. Es kann echten Wert enthalten oder gar keinen. Der Anschein von Aufwand sagt mir kaum noch etwas über den Wert darunter.

Das Maß, das mich interessiert, ist deshalb ein Verhältnis von Rauschen zu Wert: Durch wie viel muss sich jemand durcharbeiten für jede einzelne Sache, die verändert, was er versteht, entscheidet oder tut? KI erhöht die erste Zahl kostenlos. Die zweite hängt von menschlichem Urteilsvermögen ab, und das ist nicht schneller geworden.

Der Engpass hat sich von der Produktion zum Konsum verschoben. Wir können mehr erzeugen, als irgendjemand verantwortungsvoll prüfen kann.

Produktion kostet fast nichts. Die Lücke ist die Aufmerksamkeit, und sie ist nicht breiter geworden. Ein Teil dessen, was hinter der Wand hängen bleibt, ist der wertvolle Teil.

Zwei Wege, das Verhältnis zu senken
#

Eine Antwort wäre, langsamer zu werden. Kein Team, das wettbewerbsfähig bleiben will, wird das tun.

Die andere ist, an beiden Seiten des Verhältnisses zu arbeiten: besser darin werden, den Wert in dem zu finden, was bei mir ankommt, und bewusst entscheiden, was ich allen anderen hinzufüge.

Beides zählt am meisten dort, wo Menschen gemeinsam entscheiden, was gebaut wird, wie man es angeht und warum. Diese Entscheidungen beruhen auf Dingen, die ein Modell nicht hat. Es hat sich noch nie über ein UI geärgert. Wenn sich dieses Gespräch mit generiertem Material füllt, sind die menschlichen Stimmen darin schwerer zu hören, und ihretwegen gibt es das Gespräch überhaupt.

Das Gespräch zwischen Menschen ist der schmale Kanal. Alles Generierte konkurriert mit ihm.

Ordentlich ist schwerer zu filtern als schlecht
#

Das schwierige Material ist nicht offensichtlich kaputt. Spam lässt sich leicht aussortieren. Ein schlechtes Dokument verrät sich selbst. Vieles vom neuen Output ist ordentlich: schlüssig, relevant genug und professionell formatiert.

Ordentliche Arbeit verbraucht trotzdem Aufmerksamkeit. Jemand muss das Dokument lesen, den Pull Request reviewen, die Zusammenfassung prüfen oder entscheiden, ob die Empfehlung wichtig ist. Die Produktionskosten sind verschwunden, aber die Prüfkosten sind zu jemand anderem gewandert. Forscher haben dem in der Harvard Business Review einen Namen gegeben, workslop: KI-generierte Arbeit, die fertig aussieht und die eigentliche Mühe dem überlässt, der sie bekommt.

Denselben Effekt sehe ich bei meinen eigenen Agenten. Ein Status-Update kann korrekt sein und mir trotzdem nichts sagen, was ich wissen muss. Eine erledigte Aufgabe kann ein weiteres Dokument erzeugen, das geprüft werden muss. Eine Benachrichtigung, die beweisen soll, dass nützliche Arbeit passiert ist, kann selbst zu mehr Arbeit werden.

Das übliche Scheitern ist leiser als Untergehen: alles überfliegen, ständig den Kontext wechseln und nichts die Aufmerksamkeit geben, die es verdient.

Als Leser: Aufmerksamkeit schützen, dann von KI ordnen lassen
#

Ich fange mit etwas an, das nichts mit KI zu tun hat. Ich blocke Zeit für Deep Work. Alles, was Verständnis, Erfindung oder eine schwierige Entscheidung verlangt, braucht Raum, ohne dass nebenher ein Livestream läuft.

Die Nachrichten sammeln sich weiter an, und ich arbeite sie stapelweise ab. Zwanzig Updates auf einmal zu lesen kostet deutlich weniger, als zwanzigmal unterbrochen zu werden, obwohl die Menge identisch ist. Forschung zu unterbrochener Arbeit hat gezeigt, dass Menschen das ausgleichen, indem sie schneller arbeiten, und dafür mit Stress und Frust bezahlen.

KI ist Teil der Ursache, aber sie ist auch der einzige praktikable Weg, den ich gefunden habe, um einen Teil der entstandenen Menge zu bewältigen.

Bei der Arbeit kann KI helfen, Nachrichten zu erkennen, die vielleicht eine Handlung erfordern. Die lese ich zuerst. Alles andere überfliege ich trotzdem, denn im Bild zu sein ist mehr als eine Aufgabenliste. Kontext, schwache Signale und die gelegentliche Sache, die der Filter falsch verstanden hat, zählen weiterhin.

Ich nutze KI, um meine Aufmerksamkeit zu ordnen, nicht um sie abzugeben. Der Filter lernt, was tendenziell wichtig ist, aber für das, was ich verpasse, bleibe ich verantwortlich.

Bei wiederholbarer Arbeit gehe ich gern weiter. Wenn etwas wie ein Uhrwerk läuft, automatisiere es. Wenn der Prozess bekannt ist, die Eingaben klar sind und Fehler sich billig erkennen oder rückgängig machen lassen, kann vollständige Delegation genügen.

Alles außerhalb dieser Kategorie braucht Urteilsvermögen.

Als Produzent: durchdachte Arbeit statt Wegwerf-Output
#

Die andere Seite des Verhältnisses ist das, was ich selbst beitrage. KI für Arbeit zu nutzen, die Urteilsvermögen braucht, heißt nicht, nach einer Antwort zu fragen und sie zu akzeptieren.

Wenn ich damit ein größeres Dokument schreibe, entscheide ich zuerst, was ich sagen will. Ich lege die Struktur fest, liefere den relevanten Kontext und erkläre das Ziel. Dann generiere ich einen Abschnitt, überarbeite ihn selbst, hinterfrage ihn, ergänze fehlenden Kontext und wiederhole das Ganze.

Dasselbe gilt für Code. Ein Agent kann schnell eine Implementierung liefern, aber ich muss trotzdem entscheiden, ob es das Feature geben sollte, ob der Ansatz ins System passt und ob das Ergebnis wartbar ist. Bestandene Tests beantworten nur einen Teil davon.

Ob etwas von einer KI oder von einem Menschen stammt, sagt mir wenig. Entscheidend ist, ob es Wegwerf-Output oder durchdachte Arbeit ist, und aus Wegwerf-Output besteht das meiste Rauschen.

KI kann an durchdachter Arbeit mitwirken. Sie kann hinterfragen, entwerfen, vergleichen und überarbeiten, in einem Tempo, mit dem ich nicht mithalte. Aber der Wert entsteht in der Schleife: Struktur, Kontext, Generierung, Review, Handarbeit und noch ein Durchgang. Meine Denkleistung fließt in die Teile, die kein Uhrwerk sind.

Weniger an Menschen schicken
#

Es gibt eine naheliegende Falle: KI zu nutzen, um all das Material zusammenzufassen, das KI uns zu erzeugen geholfen hat. Besseres Filtern kann die Menge erträglich machen, ohne zu hinterfragen, warum es die Menge überhaupt gibt.

Der gesamte Output darf weiter wachsen. Schrumpfen muss der Anteil davon, der auf Menschen zielt. Nicht jedes Update muss verschickt werden. Nicht jede Idee braucht ein Dokument. Nicht jedes funktionierende Stück Code muss ein Feature werden. Bevor man KI bittet, ein Artefakt zusammenzufassen, lohnt sich die Frage, ob es das Artefakt überhaupt gebraucht hat.

Wer produziert, sollte einen Teil der Kosten des Konsums tragen. Alles, was an einen anderen Menschen übergeben wird, ob von einem Menschen oder einem Agenten, sollte sagen, was sich geändert hat, warum es wichtig ist und welche Entscheidung nötig ist. Wenn ich diese drei Fragen nicht beantworten kann, ist das Artefakt vermutlich noch nicht reif zum Verschicken, und vielleicht muss es gar nicht existieren. Für meine Agenten gilt inzwischen dieselbe Regel: Routine-Monitoring bleibt still, wenn es nichts zu tun gibt. Manchmal ist Schweigen das richtige Update.

Teams haben die Tools übernommen und den Prozess behalten
#

Das meiste daran, wie Produktteams arbeiten, wurde entworfen, als es teuer war, Dinge zu produzieren. Eine Spec zu schreiben hat eine Woche gedauert, also kamen nur wenige Specs zum Review. Ein Prototyp hat einen Sprint gekostet, also wurde vorher darüber gestritten, ob man ihn baut. Die Kosten wirkten als Rate Limit, und der Prozess hat sich darauf verlassen.

Dieses Limit ist weg. Jeder kann ein Dokument generieren und jeder kann Code generieren, aber das Review-Meeting, die Freigabekette und die Zahl der Menschen, die entscheiden können, sind dieselben wie vorher. Wir haben die Tools übernommen und die Organisation behalten.

Als Produzieren teuer war, waren die Kosten das Rate Limit. Der Reviewer rechts ist in beiden Bahnen derselbe.

Wie die neue Struktur aussieht, habe ich noch nicht raus. Ich glaube, sie beginnt damit, die Aufmerksamkeit der Menschen, die entscheiden, als das Budget zu behandeln, um das herum alles andere geplant wird: weniger Artefakte, die auf Menschen zielen, kleinere Gruppen, die Entscheidungen treffen, und eine klare Antwort darauf, wer was sehen muss.

Aufmerksamkeit ist jetzt die harte Grenze. Gut abschneiden werden die Teams, die genug Urteilsvermögen schützen, um den Wert in der Menge zu finden.

Nichts davon ist ein Argument für oder gegen KI. Ich nutze sie jeden Tag, um zu denken, zu gestalten und durch das Rauschen zu kommen. Aber die Entscheidungen, auf die es ankommt, treffen immer noch Menschen, die miteinander reden, mit endlicher Aufmerksamkeit und einem Urteilsvermögen, das Zeit braucht. Ich will, dass diese Tools Raum für dieses Gespräch schaffen, damit wir bei den Teilen anwesend sind, auf die es ankommt.

Verwandte Artikel