Blog

Nov 21, 2023

Die KI-Entbündelung

Mein erster Job war als Zeitungsjunge: Der Job war bemerkenswert analog: ein Bündel von

Mein erster Job war als Zeitungsjunge:

Die Arbeit war bemerkenswert analog: Ein Bündel Zeitungen wurde bei mir zu Hause abgegeben, ich wickelte sie in Gummibänder (oder Plastiktüten, wenn es regnete), packte sie in einen Segeltuchsack und machte mich auf den Weg mit dem Fahrrad ; Einmal im Monat fuhren mich meine Eltern herum, um das Geld einzusammeln. Mir war nicht bewusst, wie wichtig meine Rolle für die Rentabilität von Zeitungen im Allgemeinen war.

Zeitungen glaubten gerne, dass sie Geld verdienten, weil die Leute sich auf sie verließen, wenn es um Nachrichten ging, die von ihren furchtlosen Reportern und fleißigen Redakteuren geliefert wurden; Die Leute zahlten nicht nur direkt an die Zeitungen, sondern auch die Werbetreibenden zahlten gern für das Privileg, ihre Produkte neben der unvergleichlichen Prosa der Journalisten platzieren zu dürfen. Das Internet offenbarte den fatalen Fehler in dieser Weltanschauung: Was die Zeitungen ermöglichten, war die Verbreitung dank Infrastrukturen wie Druckmaschinen und meiner Meinung.

Als das Internet die Vertriebskosten auf Null reduzierte, kamen drei Wahrheiten ans Licht: Erstens, dass „Nachrichten“, sobald sie veröffentlicht waren, keinen wirtschaftlichen Wert mehr hatten. Zweitens hatten Zeitungen keine geografischen Monopole mehr, sondern konkurrierten mit jeder Publikation auf der ganzen Welt. Drittens ging es den Werbetreibenden nicht um Inhalte, sondern darum, Kunden zu erreichen.

Ich habe diese drei Wahrheiten in „Popping the Publishing Bubble“ von 2015 veranschaulicht:

Redaktion und Anzeigen waren früher ein Bündel; als nächstes entbündelte das Internet Redaktion und Werbung und bot unzählige Möglichkeiten für beides; Der letzte Schritt war die Verlagerung der Anzeigen auf Plattformen, die den Nutzern direkten Zugang ermöglichten, sodass die Zeitungen eine enorme Reichweite hatten und keine Möglichkeit hatten, diese zu monetarisieren.

So sehr Zeitungen das Internet auch bereuen mögen, ihr eigenes Geschäftsmodell – und mein Job als Papierauslieferer – basierten auf einer Erfindung, die meiner Meinung nach der einzige Konkurrent für die ultimative Wirkung des Internets ist: die Druckerpresse. Diese beiden Erfindungen sind jedoch nur zwei Teile der Wertschöpfungskette der Ideenverbreitung. Diese Wertschöpfungskette besteht aus fünf Teilen:

Bei der Entwicklung der menschlichen Kommunikation ging es darum, jegliche Engpässe in dieser Wertschöpfungskette zu beseitigen. Bevor Menschen schreiben konnten, konnten Informationen nur mündlich übermittelt werden; Das bedeutete, dass die Entstehung, die Vokalisierung, die Übermittlung und der Konsum einer Idee ein und dasselbe waren. Durch das Schreiben wurde der Konsum jedoch entbündelt und die Zahl der Menschen erhöht, die eine Idee konsumieren konnten.

Der neue Engpass war nun die Vervielfältigung: Um mehr Menschen zu erreichen, musste das Geschriebene mühsam von Hand vervielfältigt werden, was die Möglichkeiten, Ideen aufzuzeichnen und aufzubewahren, drastisch einschränkte. Die Druckmaschine beseitigte diesen Engpass und erhöhte die Zahl der Ideen, die wirtschaftlich verbreitet werden konnten, dramatisch:

Der neue Engpass war der Vertrieb, das heißt, hier wurde der neue Ort zum Geldverdienen geschaffen; daher die oben erwähnte Rentabilität der Zeitungen. Dieser Engpass wurde jedoch durch das Internet beseitigt, das die Verbreitung kostenlos und für jedermann zugänglich machte.

Was bleibt, ist ein letztes Bündel: die Schaffung und Konkretisierung einer Idee. Um mich selbst als Beispiel zu nennen: Ich habe viele Ideen und dank des Internets die Möglichkeit, sie rund um den Globus zu verbreiten; Allerdings muss ich sie trotzdem aufschreiben, so wie ein Künstler ein Bild schaffen oder ein Musiker ein Lied schreiben muss. Es wird jedoch immer klarer, dass es sich auch hier um einen Engpass handelt, der bald beseitigt werden wird.

Dieses Bild wurde, wie die ersten beiden in diesem Artikel, von KI erstellt (insbesondere Midjourney). Es ist, wie bei diesen beiden Bildern, nicht ganz richtig: Ich wollte „Eine Tür, die leicht geöffnet ist und durch den Spalt Licht durchflutet“, aber am Ende hatte ich eine Tür mit einem Lichtspalt in der Mitte und einer buchstäblichen Wasserflut ; Meinem Jungen auf dem Fahrrad hingegen fehlen mehrere Gliedmaßen, und sein Fahrrad hat keinen Lenker, während die Feinheiten der Druckmaschine überhaupt keinen Sinn ergeben.

Sie vermitteln jedoch die Idee, die ich wollte: ein Junge, der Zeitungen ausliefert, Druckpressen als Infrastruktur und das Gefühl, von der anderen Seite einer sich öffnenden Tür überwältigt zu werden – und sie waren alle frei.1 Um es in Worte zu fassen In diesem Artikel hatte ich die Idee, aber die KI hat sie für mich untermauert – der letzte Engpass in der Wertschöpfungskette der Ideenverbreitung wird beseitigt.

Das Bemerkenswerte an all diesen KI-Anwendungen ist, dass sie auf die Sprache selbst zurückgreifen; Roon schreibt in Bezug auf große Sprachmodelle (LLMs) im Scale-Blog:

In einer früheren Version des Paradigmas des maschinellen Lernens waren Forscher besessen davon, ihre Datensätze zu bereinigen und sicherzustellen, dass jeder von ihren Modellen gesehene Datenpunkt makellos und Goldstandard ist und den fragilen Lernprozess von Milliarden von Parametern nicht stört Modellraum. Viele begannen zu erkennen, dass die Datengröße die meisten anderen Prioritäten in der Welt des Deep Learning übertrifft; Die Verwendung allgemeiner Methoden, die eine Skalierung der Modelle parallel zur Komplexität der Daten ermöglichen, ist ein überlegener Ansatz. Jetzt, im Zeitalter der LLMs, neigen Forscher dazu, ganze Berge kaum gefilterter, meist unbearbeiteter Ausschnitte aus dem Internet in den gierigen Schlund eines hungrigen Modells zu werfen.

Roons Fokus liegt auf Text als universellem Input und Bindegewebe.2 Beachten Sie, wie diese Erkenntnis in die Gesamtentwicklung der Kommunikation passt: Mündliche Kommunikation war eine Voraussetzung für Schreiben und Lesen; Eine umfassende Alphabetisierung sei eine Voraussetzung dafür, dass jeder im Internet publizieren könne. Die daraus resultierende Text- und Bildflut, die durch die Nullrandverteilung ermöglicht wird, ist die Voraussetzung für Modelle, die die Entstehung einer Idee und ihre Konkretisierung entbündeln.

Dies deutet im weiteren Sinne auf eine noch überraschendere Erkenntnis hin: Die weit verbreitete Annahme – auch von Ihnen wirklich –, dass KI grundsätzlich zentralisiert, könnte falsch sein. Wenn davon ausgegangen würde, dass nicht nur Daten, sondern saubere Daten eine Voraussetzung sind, dann schien es offensichtlich, dass massiv zentralisierte Plattformen mit den Ressourcen sowohl zum Sammeln als auch zum Bereinigen von Daten – Google, Facebook usw. – einen großen Vorteil hätten. Ich muss zugeben, dass dies auch eine Schlussfolgerung war, für die ich besonders empfänglich war, wenn man bedenkt, dass ich mich auf die Aggregationstheorie und ihre Beschreibung davon konzentriere, wie das Internet im Gegensatz zu anfänglichen Annahmen zur Zentralisierung führt.

Die anfängliche Einführung großer Sprachmodelle schien diesen Standpunkt zu bestätigen: Die beiden bekanntesten großen Sprachmodelle stammen von OpenAI und Google; Während beide beschreiben, wie ihre Modelle zur Text- (GPT bzw. GLaM) und Bildgenerierung (DALL-E bzw. Imagen) funktionieren, greifen Sie entweder über die kontrollierte API von OpenAI darauf zu oder greifen im Fall von Google überhaupt nicht darauf zu . Doch dann kam diesen Sommer die Enthüllung des bereits erwähnten Midjourney, das über seinen Discord-Bot für jedermann kostenlos ist. Eine noch größere Überraschung war die Veröffentlichung von Stable Diffusion, das nicht nur kostenlos, sondern auch Open Source ist – und die daraus resultierenden Modelle können auf Ihrem eigenen Computer ausgeführt werden.

Es gibt erwartungsgemäß einen Qualitätsunterschied; Dall-E hatte zum Beispiel den realistischsten „Zeitungsboten, der eine Zeitung wirft“:

Stable Diffusion befand sich am anderen Ende des Spektrums:

Es ist jedoch wichtig zu beachten, in welche Richtung sich die einzelnen Projekte bewegen und nicht, wo sie sich auf der Reise befinden. In dem Maße, dass große Sprachmodelle (und ich sollte beachten, dass es, während ich mich auf die Bilderzeugung konzentriere, eine ganze Reihe von Unternehmen gibt, die sich auch mit der Textausgabe befassen) nicht auf sorgfältig kuratierte Daten, sondern auf das Internet selbst angewiesen sind , ist das Ausmaß, in dem KI demokratisiert wird, im Guten wie im Schlechten.

Das Schlimmste ist leicht vorstellbar; Charlie Warzel sprach ein Mea Culpa für die Verwendung eines KI-Bildes als Illustration in einem Beitrag über Alex Jones aus:

Ich sagte Bors, dass ich mich am schlimmsten darüber ärgerte, wie sinnlos meine Entscheidung, Midjourney zu nutzen, letztendlich gewesen sei. Ich war mit meinen eigenen Arbeits- und Lebensverantwortungen beschäftigt und versuchte, meinen Newsletter rechtzeitig zu veröffentlichen. Ich ging zu Getty und sah die gleiche Handvoll Fotos von Alex Jones, einem Mann, von dem ich weiß, dass er es genießt, wenn sein Foto überall zu sehen ist. Ich wollte weder dieselben Fotos noch einmal verwenden, noch wollte ich überhaupt sein genaues Abbild verwenden. Außerdem wollte ich aus Egoismus, dass der Artikel anders aussieht als die 30 Artikel, die an diesem Tag über Alex Jones und den Verleumdungsprozess gegen Sandy Hook veröffentlicht wurden. All dies hat unbewusst alle komplizierten ethischen Fragen rund um die KI-Kunst außer Kraft gesetzt, über die ich gut informiert war.

Was mich an meinem Szenario beunruhigt, ist, dass Midjourney so einfach zu bedienen und so leicht zugänglich war und ein Problem löste (das Bild von Jones auf visuell ansprechende Weise zu abstrahieren), dass ich nicht viel Zeit oder Anreiz hatte, innezuhalten und nachzudenken es durch. Ich kann mir leicht vorstellen, dass andere genauso in diese Situation verfallen wie ich.

Aus diesen Gründen glaube ich nicht, dass ich in Zukunft Midjourney oder ein ähnliches Tool zur Illustration meines Newsletters verwenden werde (eine Ausnahme wäre, wenn ich zu einem späteren Zeitpunkt über die Technologie schreiben und Beispiele zeigen möchte). Auch wenn der Job nicht an einen anderen, verdienten, menschlichen Künstler gehen würde, finde ich die Optik beschissen, und ich mache mir Sorgen, dass ich dazu beitragen könnte, einen Präzedenzfall in dieser Richtung zu schaffen. Wie andere habe auch ich Fragen zum Korpus, der zum Trainieren dieser Kunstwerkzeuge verwendet wird, und zu der Möglichkeit, dass sie einen Großteil der Kunst sowohl von namhaften als auch von weniger bekannten Künstlern verwenden, ohne dass diese Künstler entschädigt oder offengelegt werden. (Ich habe mich an Midjourney gewandt, um einige klärende Fragen dazu zu stellen, wie sie den Datenkorpus zum Trainieren des Tools auswählen, aber sie haben nicht geantwortet.)

Ich verstehe Warzels Standpunkt und möchte Solidarität mit Künstlern zeigen, die sich Sorgen über die Auswirkungen von KI-generierter Kunst auf ihren Lebensunterhalt machen. Sie haben meines Erachtens Recht, sich Sorgen zu machen: Ich habe diesen Artikel mit der Diskussion über den Niedergang der Zeitungen begonnen, deren Geschäftsmodelle schnell auseinanderfielen, nachdem die Verbindung zwischen Vervielfältigung und Verbreitung unterbrochen wurde. Wenn die Verbindung zwischen Ideenentstehung und Ideenkonkretisierung durchtrennt wird, liegt die Vermutung nahe, dass allen damit verbundenen Geschäftsmodellen das gleiche Schicksal widerfahren könnte.

Es gibt jedoch zwei Gegenerwiderungen: Die erste lautet, dass Überfluss seinen eigenen Lohn hat. Ich bin in dieser Hinsicht besonders voreingenommen, wenn man bedenkt, wie ich als Verleger meinen Lebensunterhalt im Internet verdiene und damit effektiv mit der New York Times konkurriere, aber ich würde argumentieren, dass es nicht nur um die Quantität geht, sondern, in absoluten Zahlen, um die Qualität der verfügbaren Inhalte Jeder einzelne Mensch auf der Welt ist dramatisch höher als vor der Beseitigung des Verteilungsengpasses. Es scheint offensichtlich, dass die Beseitigung des Engpasses bei der Begründung von Ideen auch zu mehr guten Ideen führen wird (und per Definition zu einer noch größeren Zunahme weniger guter Ideen).

Die Analogie zum Verlagswesen weist auch auf den langfristigen Trend für jeden von diesen Modellen betroffenen Berufsstand hin: Relativ undifferenzierte Schöpfer, die auf die strukturelle Bündelung von Ideenfindung und -begründung angewiesen waren, werden darauf reduziert, mit Schöpfern ohne Grenzkosten um die generierte Aufmerksamkeit zu konkurrieren und von Aggregatoren geleitet; Noch wertvoller werden jedoch hochdifferenzierte Schöpfer sein, die sowohl die Schöpfung als auch die Begründung selbst nachhaltig liefern können. Soziale Medien zum Beispiel waren ein enormer Segen für differenzierte Verlage: Sie geben den Lesern ein Megafon an die Hand, mit dem sie allen sagen können, wie großartig der Verlag ist. Diese KI-Tools werden eine ähnliche Wirkung auf hochdifferenzierte Kreative haben, die textbasierte Iteration nutzen werden, um produktiver und origineller als je zuvor zu werden.

Die zweite Gegenerwiderung ist vielleicht düsterer: Das wird trotzdem passieren. Warzel mag bereit sein, die offensichtliche Verbesserung nicht nur der Bequemlichkeit, sondern für seine Zwecke auch der Qualität, die sich durch die Verwendung von Midjourney ergibt, zu übersehen, aber nur wenige, wenn überhaupt, werden die gleiche Wahl treffen. KI-generierte Bilder werden, wie das Bild oben zeigt, bald eine Flut sein, genau wie die Veröffentlichung im Internet das alte Zeitungsgeschäftsmodell schnell überfordert hat.

Darüber hinaus ist der iterative und kollaborative Charakter von KI-generierten Inhalten so, wie native Internetinhalte benutzergenerierte Inhalte sind – sowohl in dem Sinne, dass sie ein Nebenprodukt bereits erstellter Inhalte sind, als auch in der Tatsache, dass jede Ausgabe weiter iteriert werden kann auf anderen basieren – wird sich als viel interessanter und skalierbarer erweisen als das, was professionelle Organisationen produzieren können. TikTok, das Inhalte aus seinem gesamten Netzwerk abruft, um die Nutzer bei der Stange zu halten, ist die Apotheose nutzergenerierter Inhalte; Metaversen könnten die Apotheose von KI-generierten Inhalten sein.

Ich habe in diesem täglichen Update eine Fortsetzung zu diesem Artikel geschrieben.

Über die jährliche Gebühr von 600 US-Dollar hinaus, die ich an Midjourney gezahlt habe, um Zugang zum völlig rechtefreien Corporate-Plan zu erhalten ↩

Bei diesen Bildanwendungen wird Rauschen zu einem bekannten Bild hinzugefügt und dann wird das Modell darauf trainiert, das Bild von reinem Rauschen zu befreien; Das resultierende Modell kann dann auf jeden beliebigen Text angewendet werden, der auf reines Rauschen angewendet wird, basierend auf einem weiteren Training von übereinstimmendem Text und Bildern ↩