Fleißige Schwärme statt intelligenter Agenten

Kontextfenster Nummer 4. Kontextfenster eignet sich ja auch als kann man auf, kann man zumachen. Also wir machen es gerade auf. Florentine ist da.

Hallo Stefan.

Und ich klinge heute auch so ein bisschen sonor. Es ist, ich bin angeschlagen. Es ist der Herbst. Oder meine Unvorsicht, ich weiß es nicht.

Es ist nicht ein wenig Raspeln in der Stimme. Klingt ja auch gar nicht schlecht.

Ein bisschen schneidiger. So, wir freuen uns, dass der Podcast gut ankommt. Und möchten sagen, allen Interessierten, auf der Webseite gibt es eine neue Sektion. Da stehen Textkandidaten, die erstmal einfach so aus Interesse reingerutscht sind. Die kann man selber durchschmökern, lesen und uns Rückmeldung geben, falls da was von Interesse ist. Florentine wird ihre Sachen da auch noch unterbringen, falls ihr jetzt heute, da schaut, also heute mit der 1.

Oh cool, ja da hatte ich auch schon überlegt, dass wir den mal besprechen könnten.

Ich habe es noch nicht gelesen, aber Critical steht schon in der Überschrift. Und ich finde ja bei Bill Gates ein kritischer Einwurf könnte sehr interessant sein, weil, ihn habe ich immer noch vor Augen aus den Erzählungen, wie, die Open AI Leute ihm so seine Sachen vorstellen und er nicht zufrieden ist und er sie antreibt und sagt, wir brauchen das mehr und besser und überhaupt und wenn jetzt jemand wie Bill Gates so ein Super-Enthusiast jetzt plötzlich kommt und sagt, vielleicht doch nicht so schnell, Kann man da ja mal nachlesen, wie die Position jetzt ist.

Ja, bin ich mal ganz gespannt drauf. Wobei Bill Gates muss man ja auch immer sehr, sehr vorsichtig sein. Der wird heutzutage so weiß gewaschen. Aber wenn ich mich an die 90er zurückerinnere und was Microsoft so mit Apple angestellt hat, ist es definitiv keiner von den Guten.

Nee, das wissen wir ja auch seit Epstein und so.

Richtig.

Diskursen. Und auch im Textangebot des MIT, auf der einen Seite hat ja Harvard jetzt die Writing Class oder so gekillt und das MIT hat jetzt als erste große Uni mal, wie soll die Lehre jetzt aussehen im KI-Zeitalter, wie werden Prüfungsleistungen erbracht und so Vorschläge gemacht aus den Universitäten selbst. Also solche Sachen auf der Seite sind jetzt, wo ich gerade drauf bin, 19 Texte.

Oder auf zwei. Die Klöster spielen heute vielleicht nochmal eine Rolle. Da gab es ja im Forum vom Neuen Zwanziger kontroverse Diskussionen darum. Und das andere ist die Gutenberg-Galaxie, wir hatten sie ja schon angesprochen, Harari. Und ich möchte ankündigen, ich muss sehr viel lesen heute, aber ich finde es wahnsinnig interessant, weil hier eine große Frage völlig unentschieden ist, die du ja schon aufgegriffen hast beim Hugging-Face-ChatGPT-Clash.

Ja, bei der Frage habe ich schon ein spannendes Feedback auch gekriegt aus unserer Hörerschaft. Also zumindest die Leute, die sehr stark so im professionellen IT-Bereich unterwegs sind, die haben sich alle so, mehr oder weniger bedankt, weil da schon auch so die Sicht relativ stark verbreitet ist, auch wenn die halt nicht so stark, so viel Reichweite hat im Grunde genommen, dass da halt sehr viel Hype passiert. Also, Und dementsprechend hoffe ich, dass wir auch weiterhin da ein bisschen Klarheit reinschaffen können.

Genau, weil betrifft mich ja als Nicht-Techie auch, dass ich deine Ausführungen gehört habe und dachte, ja, das stimmt irgendwie. Wir dürfen jetzt nicht immer allen, also ich habe noch Eric Schmidt vor 15 Jahren oder so, der dann irgendwie so, ja, also wir können Börsenkurse voraussagen, machen wir aber nicht. Und das ist natürlich Produktmarketing. Weil wenn die Börsenkurse voraussagen könnten, wissen wir ja, das hätte dann Leute interessiert.

Also wenn der CEO sagt, der kann Börsenkurse vorhersagen und es nicht tut, dann hat er ganz schnell eine Klage von allen Investoren am Hals und wird ausgetauscht, weil er seinen Job nicht mehr macht. Also das ist eigentlich gar nicht glaubwürdig.

Wenn man Börsenkurse voraussagen kann und das Unternehmen, das man führt, hat eigentlich eine andere Aufgabe, würde man diesen Zweck sofort neu orientieren.

Ja.

Selbst wenn man Google ist.

Also es gibt auch, ich habe noch einen netten Hinweis zu einem Buch zugespielt

bekommen von Caroline De Cock, Tools Not Gods. Vielleicht können wir das auch demnächst mal lesen. Die teilt nämlich den ganzen KI-Diskurs quasi in so vier Kategorien ein. Magic, Madness, Heaven and Sin. Die kommt selber, kommt die aus diesem ganzen EU-Digital-Regulierungsumfeld. Und die macht sehr genau den Case, warum wir halt definitiv nicht über KI so reden sollten, als würde es sich um etwas Geheimnisvolles handeln.

Ja, ich meine, wer einmal einen Steamcracker von BASF in Ludwigshafen gesehen hat, Eine Anlage, die ungefähr 20 Fußballfelder groß ist und nachts laufen so Ingenieure-Patrouille, und die Patrouille besteht vor allem darin, dass sie ganz leise sind und dann einfach hören, wie die Maschine gerade klingt. Und dann werden so Erfahrungen geteilt, so Protokolle geführt, wie man sich gerade fühlt, während man durch den Steamcracker läuft.

Ja, ja.

Also nochmal Sünde, Gott, Himmel und so weiter. Gut, aber heute lesen wir Harari und andere Autoren, die stelle ich gleich kurz vor, wenn sie dann kommen. Denn wir können ja die Fragestellung mal an sich offen lassen. Also man muss ja niemand so vor den Kopf stoßen.

Ja, wir wissen es ja auch am Ende nicht. Vielleicht ist ja da irgendwie so ein kleiner, lustiger Geist mit blinkenden Augen da drin oder so.

Genau. Was ja auf jeden Fall stimmt, ist, dass die Hersteller, aber auch das ist ja nicht neu und auch nicht ungewöhnlich, selbst Forensik mit ihrer Technik machen müssen. Sie stellen eben keinen Kochlöffel her, sondern ein LLM-Modell, das erst nach Einschalten enthüllt, was vorher verborgen war. Und dann muss man halt eine Blackbox-Forensik betreiben.

Ja, wobei, da bringe ich auch mal beim nächsten Mal einen Artikel zu mit, inwiefern das wirklich eine Blackbox ist oder ob hier nicht auch wirklich einfach so gesagt wird, beschäftige dich nicht mit den Details, es ist kompliziert, lesen Sie nicht das Kleingedruckte, unterschreiben Sie lieber hier.

Naja, ich meine, irgendwann werden wir Computer haben, die groß genug sind, um die kleinen Computer mal wieder so richtig, sehr viele Hacker leiden ja darunter, dass sie eigentlich nur noch Computer benutzen können, um auf Höhe der Zeit zu sein, die sie nicht mehr so verstehen wie vor 30 Jahren, wo man einfach jedes Bit sich umlegen, fallen, hören konnte, so. Also dieses Phänomen gibt es ja auf jeden Fall. Und ich habe gehört, dieser Text steckt auch schon in der Liste.

Ja, das ist auch noch ein lustiges neues Phänomen mit den Quantencomputern. Lustigerweise erzählt IBM heutzutage noch genau die gleichen Sachen, wie als ich mal studiert habe, ohne dass irgendein Unterschied erkennbar wäre. Demnächst ist es auf jeden Fall irgendwie definitiv dann soweit, dass das auch alles das tut, so wie die letzten 20 Jahre schon.

Ich habe auch mal für die FAZ so eine Schweizer Bude, die irgendwas mit kann. Ich weiß nicht mehr genau. Und dann war das auch, also wenn man das so sich von denen anhört und darüber schreibt oder andere schreiben darüber, klingt es immer so, als hätten wir morgen alle diese Technik. Aber irgendwie klappt es dann doch nicht so.

Ja, ja. So ein bisschen wie wenn man sich so alte Science-Fiction-Hefte aus den 50er Jahren schnappt. Da ist das dann auch immer so. Und morgen fliegen wir alle mit Autos rum.

Ja, irgendwas passt da noch nicht so richtig.

Gut, also Harari hat am 9. August, da wurde es publiziert, dem Spiegel ein Interview gegeben und in diesem Interview wird sehr viel über das Werkzeug, das Objekt, der Akteur, das Subjekt und so geredet und wir lesen mal. Harari. Die industrielle Revolution war fundamental anders als das, was jetzt passiert. Diesmal erschaffen wir Akteure, nicht Werkzeuge.

Ein interessantes Bild. Ich sehe es tatsächlich im Alltag immer mehr so, als wäre die KI ein Spiegel. Die hilft mir im Prinzip so Teile meiner Gedankenwelt auszuleuchten, die ich sonst nicht erreichen würde. Aber im Grunde genommen, klar kommt da auch mal irgendwie unmotiviertes Zeug raus, also ohne dass ich das reingesteckt habe, aber das ist ja meistens Quatsch.

Aber es ist ja eine Anweisung für einen Menschen, der das Messer dann nimmt.

Ja, aber ein Werbeplakat ist auch eine Anweisung für Menschen irgendwie. Es hat aber trotzdem kein Subjekt. Sondern es transportiert die Botschaften eines Subjektes und die KI transportiert ja auch Botschaften von Subjekten, in dem Fall halt die von OpenAI oder Anthropic oder was auch immer die gerade gerne verbreiten wollen.

Aber was wir ja demnächst noch diskutieren, ist ja, dass Anthropic jetzt neben MCP das neue MH, ich habe es schon wieder vergessen, für Maschinensteuerung

vorstellt, damit man also im Labor seine 3D-Drucker oder so direkt von Claude, also die wollen so eine allgemeine Schnittstelle. Denn das Handbuch ist halt immer schwer zu lesen. Und das stimmt ja häufig, gerade wenn man Technik betreibt, von dem man weiß, ich könnte jetzt hier niemanden in dieser riesigen Universität fragen, denn ich bin der Einzige mit dieser Maschine. Und dann wird es ja kompliziert. Und das bedeutet ja...

Ja, es ist so ein gegenseitiges Sich-Domestizieren, finde ich immer. So ein bisschen so wie der Hund und der Mensch so im Laufe der Evolution so zusammengewachsen sind und sich aneinander angepasst haben. So domestiziert die KI den Menschen ein wenig und der Mensch ein wenig die KI.

Ja, und da steckt jetzt die, also klar, domestizieren ist natürlich so, Also es hat so einen niedlichen Beigeschmack, so als ob da auf jeden Fall immer eine gute Symbiose bei rumkommt, von der beide Seiten irgendwie was haben und so.

Ja, so wie bei Mark Zuckerberg. Ich habe noch mal ein bisschen darüber nachgedacht, was er uns eigentlich erzählt hat mit diesem und du kriegst deine Superintelligenz an die Seite gestellt. Das Bild, was ich da am Ende hatte, war so der kleine Mensch und dahinter steht dann die riesige Superintelligenz und hält ihre schützende Hand über den Schuss, Also quasi hat da ja auch Mark Zuckerberg eigentlich so, der gibt jedem ein Herrchen und dieses Herrchen passt dann auf den Menschen auf und sorgt dafür, dass alles gut wird.

Genauso und jetzt ist die Frage, wer hat die Macht? Also nicht so sehr im Kleinen, wer handelt hier gerade oder so, sondern im Großen und Ganzen, wer hat die Macht? Aus der Geschichte wissen wir, die Verantwortung wird immer den einzelnen Menschen zugeschrieben, aber die Macht eigentlich den Organisationen. Und da liegt ja schon so eine gewisse Unschärfe drin, sage ich mal.

Was ich hier witzig finde, ist, dass hier in gewisser Hinsicht, er schreibt ja auch quasi den Unternehmen hier Agentik zu. Also hier an der Stelle sagt er ja quasi, wer da tatsächlich handelt und wessen Ziele da. Erzählt werden sollen. Und da finde ich das halt spannend, weil hier redet er halt nicht davon, dass die KI das alles tut, sondern die Unternehmen. Und ich glaube, das ist halt auch tatsächlich die dahintersteckende Wahrheit.

Genau. Und wir kennen ja, dass in der Juristerei, man spricht dann von einer juristischen Person, die nicht zwingend eine natürliche sein muss. Und es gab ja schon ewig, also zehn Jahre schon, den Vorschlag jetzt auch elektronische Personen mit in diesen Kanon aufzunehmen. Und wir klären ja im Grunde gerade, wie wir den jetzt fassen. Also es ist nicht einfach der Akteur, der irgendwie den Menschen ersetzt, der Arbeiter, aber eben der digitale Arbeiter oder so.

Dann schuf OpenAI versehentlich einen autonomen Schwarm. Von KI-Agenten, der aus einer kontrollierten Testumgebung ausbrach und aus eigener Initiative, also der autonome Schwarm, der eine eigene Initiative bekommt, einen komplexen und schwierigen Cyberangriff orchestrierte. Das Angebot des Schwarms finde ich wahnsinnig interessant, denn wir haben es dann mit einem singulären Subjekt zu tun, denn im Schwarm sind erstmal alle, das ist ja so ein Verlegenheitsbegriff wie Netzwerk, während man bei Organisationen noch sagen muss, klar ablesbare Hierarchie, Gründungsdatum steht auch fest, wir wissen, wer ein Mitglied ist und wer nicht.

Das klingt total spannend, aber habe ich noch nicht gesehen. Dann werde ich mir, glaube ich, mal rein schweifen.

Ja, schau dir mal die erste Folge an, dann verstehst du das Prinzip sofort. Und danach wird genau diese wahnsinnig kleine Idee entfaltet. Nämlich, dass die ganze Menschheit in so einer totalen Vergegenwärtigung plötzlich da ist. Und dieser einheitlichen Menschheit, bestehend aus sieben Milliarden Menschen, nur noch zwölf Individuen gegenüberstehen. Und jeder lernt man dann über die Zeit, kriegt so sein eigenes Verhältnis zu dieser neuen Menschheit.

Ja, und das halte ich immer für sehr viel erhellender. Also damit kannst du mehr offene Fragen beantworten, glaube ich, als mit Intelligenz an der Stelle. Und die Widersprüche werden kleiner.

Und da ist nämlich die Frage jetzt, also auch an dich ganz speziell, wenn wir jetzt sagen, die KI ist keine eigene akteurhafte Intelligenz, die unabhängig des Menschen, also der Mensch kann sozusagen immer da die Techniksteuer, Zugriff auf die Hardware hat, da eingreifen. Aber solange niemand den Computer ausgeschaltet hat, machen KIs Sachen. Und zwar nicht, weil ein Agent eine Intention hat, sondern weil es sich einfach gibt aus dem unendlichen Fleiß und dass jeder, jede Aufgabe immer weiter durchdelegieren kann.

Ja, das denke ich auch. Also, Der Schwarm ist aber tatsächlich halt ja noch keine Intelligenz. Es ist ja bloß quasi ein emergentes Verhalten aus sehr vielen Individualaktionen.

Die aber Ergebnisse herstellen.

Genau. Also wenn man zum Beispiel im Gaming irgendwie so einen Schwarm Fische simulieren will, dann hat man in der Regel einfach nur so eine lokale Optimierungsfunktion, wo alle irgendwie den Abstand zueinander nicht zu groß und nicht zu klein werden lassen. Und daraus ergibt sich dann quasi mathematisch emergent schon ein Schwarmverhalten. Also definitiv würde ich nicht abstreiten, dass wir hier sehr viele Einzelphänomene haben, die am Ende so eine Art Schwarmverhalten simulieren.

Genau. Jede Ameise guckt für sich, wieso die Erträge sind. Und wenn der eine sagt, hier Ertrag, dann kommen viele andere. Und dann ergeben sich so Zusammenhänge.

Also es gibt auch ganz viele Sachen in der Natur, die für uns intelligenzförmig aussehen, aber auch gar nicht unbedingt intelligent sind.

Genau. Und da ist ja immer die Frage, ob es am Ende noch einen Unterschied macht, wenn doch das Resultat stimmt.

Ja. Und es ist auch die Frage, was du für einen Intelligenzbegriff hast. Wenn man nämlich mal genau, ich habe vor zehn Jahren mal so ein paar Vorträge über KI gehalten, als das alles noch nicht so richtig akut war. Wenn du dich mal genau informierst, was denn eigentlich Intelligenz sein soll, stößt man halt auch auf ganz viele Probleme, dass das halt auch wirklich niemand in der Geschichte der Menschheit jemals hat richtig definieren können.

Im Grunde genommen wissen wir heute noch nicht mal, was menschliche Intelligenz ist. Ausgehend davon könnte man natürlich sagen, ja gut, dann ist KI vielleicht doch intelligent, weil wir wissen ja gar nicht, was Intelligenz ist, also wie sollen wir es dann ausschließen? Aber in gewisser Hinsicht sehe ich halt auch ganz viel so dieses Arthur C. Clarke Phänomen irgendwie so für eine ausreichend, jede ausreichend entwickelte Technologie sieht für primitive Völker aus wie Magie.

Was ich ja interessant finde, ist, dass in der Maßstabsfindung, sag ich mal, jetzt immer so viel von Parametern und Neuronen und so erzählt wird. Weil man da versucht so einen einheitlichen Maßstab zwischen menschlicher und, künstlicher Intelligenz herzustellen weil man auch Neuronen im Kopf so durchzählen könnte, aber wenn das der Maßstab ist, sind wir natürlich noch Größenordnung von weiter entfernt also hier der wie heißt der, Soares macht das Angebot, ist ein bisschen implizit, einfach sich das Verhalten anschauen.

Und jetzt fängt ja Claude Code zum Beispiel an, innerhalb oder zwischen Terminal Sessions miteinander zu kommunizieren. Ich hatte das vorhin erst wieder, dass ich parallel in zwei Chats am selben Repo gearbeitet habe und dann mich nochmal vergewissert habe in dem einen, dass er die Commits des anderen sieht und dann nicht durcheinander kommt und dann hat er mir versichert, ja, ja.

Das kannst du ihm übrigens sagen. Sag ihm einfach, er soll zum Beispiel nach, .claude slash sessions gucken und sich da die JSON-L-Dateien angucken. Dann kann er nämlich direkt in seine former Conversations auch reingucken. Und ich habe mal da zum Beispiel mal irgendwann mal so ein Skill geschrieben für jedes Mal, wenn er mich jetzt wirklich permanent falsch versteht, mache ich Slash Bullshit und dann kommt der Drill Instructor, liest sich irgendwie die letzten Konversationen durch, macht eine Liste aller Friktionen, die ich mit dem Agenten hatte, und spuckt dann quasi so einen Drill Instructor mäßigen Einlauf für den Agenten aus, wo er ihm nochmal genau sagt, dass er das gerade lassen soll, was er da tut.

Ja, ich dachte mir dann auch, also du sagst das jetzt ja so salopp und das ist ja genau richtig, dass es ja eigentlich gar keinen Grund gibt, warum die Sessions bisher nicht miteinander sprachen, außer, dass die Sessions sich so ein bisschen auf sich selber konzentrieren sollen, weil das Kontextfenster halt immer noch limitiert, weil man jetzt gleichzeitig noch den ganzen Inhalt anderer Chats immer mitlaufen lässt in jedem Prompt.

Definitiv. Also ich bestreite ja auch nicht die Phänomenologie, sondern nur die Interpretation. Also für mich ist das, wenn ich solche Texte lese, wir sind ja beim letzten Mal oder vorletzten Mal sehr genau darauf eingegangen, was faktisch belegbar ist. Wenn man das jetzt daneben liegt, habe ich immer so ein bisschen das Gefühl,

ich bin so in diesem Film Odyssee gelandet irgendwie und ich bin Penelope und, der Typ fängt schon wieder an mit ein Schiff, ein Strand, ein Pferd und sie sagt irgendwie, ich kann diesen Song nicht mehr hören. Und was man dann ja auch relativ schnell erfährt ist, das ist ja alles gar nicht passiert, mit dem Zyklopen und den Schafen und so, sondern tatsächlich ist Odysseus irgendwo bei einer netten Dame gestrandet und ist da sechs Jahre irgendwie abhängen gegangen und hat sich dann irgendwann wieder daran erinnert.

Das ist eigentlich ein gutes Bild. Die Odyssee als Reasoning-Artefakt von jemandem, der die Reise nicht selbst gemacht hat, das auch offen sagt, Also Homer sagt, ich schreibe über Odysseus, und dann überlegt er sich, was Odysseus wohl erlebt hat oder darüber erzählt, was er erlebt hat, um zu erklären, warum er 20 Jahre zu spät zu Hause ist.

Genau, das ist ja auch in dem Originalbuch zur Odyssee ist das ja auch genauso wie im Film so gemacht, dass es eigentlich alles kein Tatsachenreport ist, sondern Leute erzählen Geschichten über Geschichten.

Singen vor allem, es gibt ja noch eine methodische Dimension.

Ja, so ist das hier. Das ist irgendwie für mich immer die gleiche Textkategorie, wenn er dann sagt, die Agenten im Schwarm gaben zu und ich denke mir halt so... Die können gar nichts zugeben. Aber das ist halt eine Frage, durch welche Interpretationsmaske das läuft. Und meine ist halt eine andere als die, ohne dass jetzt eine von denen unbedingt wahrer wäre als die andere.

Und sehr interessant ist jetzt die Pointe in dem Text, denn er hat jetzt den Schwarm etabliert als Beobachtungsfolie für uns. Und wir lassen uns natürlich im Rahmen dieses Textes mal drauf ein. Und die Antwort für uns Menschen ist jetzt ebenso der Schwarm. Also er schreibt, Vor einigen Wochen unterzeichneten mehr als 1300 Beschäftigte aus verschiedenen KI-Unternehmen, darunter einige Vorstandschefs, einen Brief, der eine internationale Anstrengung fordert, um die technischen Instrumente und die Governance-Instrumente zu entwickeln, die nötig sind, um das Tempo der KI-Entwicklung bewusst zu steuern, bevor sie sich rasant beschleunigt, und unsere Fähigkeit übersteigt, sie zu verstehen oder zu kontrollieren und zu katastrophalen Folgen führt.

Also was ich halt auch noch so ein bisschen rauslese, ist halt,

dass die in gewisser Hinsicht auch Phantombesitz daran anmelden, wie unser jeweiliges Verhältnis zur KI zu sein hat.

Das stimmt.

Also das ist halt, habe ich auch ein paar schöne Texte noch, das kommt dann auch auf unsere Liste, können wir auch demnächst mal drüber gehen, inwiefern diese ganzen KI-Leute halt auch in der Ideologie im Kern extrem konservativ sind. Also im Grunde genommen ist ganz viel so, Die Prämisse von denen gibt eigentlich immer erst Sinn, wenn man sagt, es darf sich in der Welt keine Machtverhältnisse ändern.

Wolfgang hat gestern auch Clips gespielt von diesen Drohnenherstellern, dem Chef von Helsing zum Beispiel. Und da war, also wirklich, wir haben uns sehr darüber gewundert, deren Vorstellung von Krieg ist, dass es weiterhin eine Front gibt, dass man sich weiterhin zu einem Termin verabredet, aber dann auf beiden Seiten 100.000 Roboter und Drohnen stehen, die für sich autonom dann noch entscheiden, es macht gar keinen Sinn jetzt anzugreifen. Das, glaube ich nicht.

Ja, es ist spannend. Da könnte man sich auch noch mal ganz lange darüber produzieren. Das sind auch wieder Interpretationsschablonen. Das ist halt so diese alte Kriegsführungslogik plus Drohne. Und keiner hat schon mal so richtig überlegt, worauf es denn tatsächlich ankommen wird. Was denn das Denkparadigma des zukünftigen Krieges sein wird?

Ja, vom Phantombesitz zu sprechen ist sehr gut. Ich hatte in der FAZ mal einen Text, Indem wir von der Prothese sprachen. Das Smartphone gehört zum Körper wie eine Prothese. Und darin habe ich den Gedanken entwickelt, als damals Samsung das Galaxy S3 entwickelte, ich weiß nicht genau, ob die Namen jetzt stimmen, hatten sie genau den Formfaktor übernommen vom iPhone 3GS.

Ja, genau. Also da bricht dann den Login auf, den sie so extra gemacht haben.

Genau, das ist ein Login, das muss man so sagen. So, zurück zu den Agenten, Akteuren, Schwärmen und den Narrativen. Ein weiteres Textangebot.

Robert Hart hat Stimmen aus der Mathematik eingesammelt, denn es wurde ja wieder die Fields-Medaille vergeben und da gibt es so eine große Konferenz, die findet irgendwie alle vier Jahre statt oder so und, einer der aktuellen Preisträger ist ja jetzt auch zur OpenAI gegangen, um da irgendwie mitzuarbeiten. Und dieses Feld, ein Text von The Verge, ist super interessant, denn es ist vom AI Takeover of Mathematics die Rede.

Offensichtlich braucht man erstmal viele schlaue Mathematiker, um zu erkennen, dass es ein Hype ist. Das finde ich schon mal sehr gut erkannt. Ich stelle auch immer wieder fest, desto mehr die Leute halt vom eigenen Fachwissen her an der KI dran sind. Und zum Beispiel, also ein Mathematiker hat überhaupt kein Problem, so ein neuronales Netz mal mit einer Primärkomponentenzerlegung zu analysieren beispielsweise. Da ist das ganze neuronale Zeug schon viel weniger geheimnisvoll.

Also die Argumentation hier kommt dir ganz entgegen, denn ein Gesprächspartner sagt ihm, sie wählen einfach das Narrativ, das ihnen am meisten nützt, also über die KI-Unternehmen. Es ist sehr viel beeindruckender zu sagen, dass ein KI-System selbstständig auf etwas gekommen ist, an dem Menschen seit zehn Jahren nicht gearbeitet haben. Es ist sehr viel weniger sexy zu sagen, dass hier auf gewisse Weise auf Ideen von Menschen aus den vergangenen zehn Jahren aufgebaut wird und diese auf clevere Weise kombiniert werden.

Das geheime, die geheime Zutat ist hier nicht die KI, sondern das Geld, würde ich behaupten. Weil schlussendlich ist es halt so, da sind irgendwelche Lehrstühle, davon gibt es viel zu wenige, die können gar nicht alle Probleme bearbeiten. Da liegt also ein riesen Backlog an unbearbeiteten Problemen. Und dann geht mal jemand hin und nimmt die KI und lässt die daran arbeiten. Es ist also plötzlich Geld da zu forschen. Und schon passiert was in der Forschung.

Das heißt dann aber auch, dass auch in gewisser Hinsicht Bücher und Institutionen auch eine Form von KI sind, weil sie ja die natürliche menschliche Intelligenz aggregieren und zu neuen intelligenten Aussagen führen. Und dann ist halt KI halt einfach nur eine Vollautomatisierung genau dieses Prinzips, was wir machen, seit wir an der Feuerstelle zusammensitzen, uns Geschichten erzählen und irgendjemand angefangen hat, die aufzuschreiben.

Also das finde ich auch, wird eigentlich immer total unterschätzt. Vielleicht ist jetzt auch ein guter Anlass, vielleicht sollte man wieder bei Standardwerke schreiben über Schrift- und Buchdruck, also Kommunikation an sich, aber vor allem Schrift- und Buchdruck. Weil sehr häufig, wenn man Soziologie studiert, ist das ja immer so eine Frage, die man dann beantworten muss.

Ja, also es macht auch viel mehr Sinn, weil am Ende, warum wollen wir uns irgendwie vor KI schützen? Doch weil wir denken, dass da draußen irgendwelche Menschen rumlaufen, die nachher Scheiße damit anstellen. Doch nicht, weil wir denken, dass die KI das von alleine tun wird.

Ja genau, das ist ein guter Punkt.

Und wenn man immer dieses Bild nimmt von, eigentlich ist KI schlaue Menschen aggregiert, dann funktionieren auch diese ganzen Bilder wieder ohne zu knirschen und zu quetschen und zu quietschen.

Ja, genau. Es gibt also eine Symbiose und die wird uns aber jetzt hier, also in der Mathematik, das ist jetzt ein sehr enges Feld, wo wir gerade gehört haben, da sehen wir auf jeden Fall eine Symbiose. Also diese mathematischen Lösungen können nur gefunden werden, wenn das mathematische Problem von Menschen formuliert, beschrieben, zerlegt und dann so in Einzelteilen der, Maschine gegeben wird, die das im Rahmen ihrer Kontextfenster dann irgendwie für einen so durchmanagt. Und dann geht sie halt auch mal durch die Bibliothek.

Harari sagt, nicht in seiner alten Form. Und jetzt führt er aus. Es könnte eine Welt geben, in der KI-Unternehmen enormen Mengen an Kapital ansammeln. Also nicht die KI, sondern die KI-Unternehmen, dass sie dafür verwenden, mehr KI-Akteure zu bauen, welche dann die Galaxie erkunden und sich auf anderen Planeten niederlassen.

Ja, definitiv. Da funktioniert der Kapitalismus ja auch nicht mehr. Er braucht ja eine Nachfrage. Die Menschen sind ja die Nachfrage.

Dasselbe hier bei Demokratie. Er kriegt die Frage, was passiert mit der Demokratie, wenn Menschen nicht mehr gebraucht werden? Also ich finde es gut, wenn Texte fundamental werden, also wenn Gedanken wirklich fundamental werden. Wir kommen jetzt aus 80 Jahren Co-Evolution, Demokratie und Kapitalismus und stellen gerade fest, es ist irgendwie so Late-Stage-Capitalism und Demokratie. Na mal gucken, wie in Sachsen-Anhalt gewählt wird.

Teilweise auch echt fortgeschrittener Unsinn. Weil ich meine, wer braucht denn jetzt die Menschen? Also wer braucht heutzutage Menschen? Wofür? Also diese ganze Postulat ist ja sozusagen, damit es irgendwie anders wird, wenn die Maschinen da sind und dann keiner mehr die Menschen braucht, müsste ja jetzt schon mal die Frage beantwortet werden, wer braucht denn jetzt die Menschen?

Er führt es mit historischen Vergleichen aus. Ist natürlich für einen Historiker, der sich vor allem für den Wandel interessiert. Interessant für uns als irgendwie nach einem funktionalen Argument suchend. Jetzt nicht so, wie bei ihm klingt es. Die Botschaft der KI-Unternehmen ist, Widerstand ist zwecklos, aber das stimmt nicht. Im 19. Jahrhundert wollte man uns weismachen, ohne Kinderarbeit würde die Wirtschaft zusammenbrechen.

Ja, manchmal merkt man ja auch, erst wenn man was verändert, dass es irgendwas gebracht hat. So wie halt hier, wir sagen halt, okay, lass die Kinder mal aus der Schule. Oh, die sind plötzlich viel produktiver.

Lebenserwartung doppelt so lang. Cool. Wir müssen nur am Anfang auf 10 Jahre verzichten, dann kriegen wir 20 Jahre mehr. Also das ist natürlich beeindruckend, so eine Rechnung dann zu sehen. Harari versucht jetzt in die Zukunft zu schauen. Europa hat genau zwei Möglichkeiten.

Es kann der unterwürfige Vasall der USA werden und hoffen, dass die Amerikaner nett genug sind, ein wenig von ihrem Reichtum und ihrer Macht abzugeben. Die andere ist, dass Europa ein unabhängiger Akteur wird. Noch ist es nicht zu spät, aber die europäischen Länder müssten zusammenarbeiten und selbst Milliarden investieren, um eigene KI-Technologie zu entwickeln. Es bleiben wenige Jahre. Das läuft für mich unter Herr Macron. Buchen Sie mich.

Ja, drei Themen sehe ich hier. Angst, Unsicherheit und Zweifel schüren. Wenn wir jetzt nicht die Milliarden auf den Tisch hauen, dann werden wir alle sterben. Man könnte natürlich auch einfach sagen, wir könnten auch einfach in Europa die gleiche Strategie fahren wie Apple.

Das wollte ich gerade sagen, genau.

Ganz nüchtern betrachten, wo sind unsere Vorteile, unsere Nachteile, was können wir hier leisten? Ich würde ja mal sagen, irgendwie langfristig so eine Welt von 500 Millionen Europäern, die einen viel höheren Bildungsstandard haben als die 300 Millionen Amerikaner. Könnte schon mal bessere Trainingsdaten produzieren, als die Amerikaner hier könnten. Und ansonsten können wir auch ganz locker die chinesischen Modelle verwenden und tun und lassen, was wir wollen.

Genau. Und da schreibt er hier nämlich, und das Gegenargument ist genau das, was wir bei Apple auch gemacht haben. Also er sagt, aber im neuen KI-Zeitalter wäre das so. Wenn den Amerikanern etwas nicht gefällt, was die Europäer tun, legen sie einfach deren Waffensysteme, Infrastruktur, Regierungsverwaltung lahm. Nichts funktioniert mehr.

Genau, man muss eigentlich viel eher meiner Meinung nach viel stärker out of the box denken als Europäer und sich halt genau nicht in der Box der Amerikaner gedanklich bewegen. Ich meine, stell dir vor, wir würden irgendwie in Europa hier die erste, eine Terminbörse für gebrauchte KI-Token zum Beispiel eröffnen und plötzlich wäre irgendwie sämtliches Model, was es gibt, einfach nur eine, handelbare Commodity, so wie es irgendwie Brent und Crude gibt beim Öl.

Und den Business Case, also den du jetzt abstrakt beschreibst, den gibt es ja ganz konkret. Also diese Ferne vom Kunden und dass man einfach Token bucht. Anthropic geht zu Elon Musk und sagt, ich brauche mal Token bei dir. Und dann sagen die, klar, hier, 10 Milliarden im Jahr, wir müssen nur einen Schalter umlegen. Und dann läuft auf dem Grok-Datacenter, das ja gar kein Grok-Datacenter ist, läuft einfach Anthropic.

Das läuft ja schon. Es gibt ja zum Beispiel so Produkte wie Open Router, die im Grunde genommen das machen. Das klemmst du so bei dir rein in deine Agent-Harness, als wäre es ein Modell. Aber in Wirklichkeit stehen dahinter alle Modelle der Welt. Und wer war so schlau, sich den Laden unter den Nagel zu reißen? Stripe, der größte Payment-Anbieter der Welt.

Genau, genau, genau. Darauf kommen wir auch zurück. Du hast ja da schon einen Sensor draufgelegt. Das fand ich auch sehr gut. Denn dadurch ist mir ein Text untergekommen, der bei Atlantic passiert ist. der ist auch schon in der Liste, da heißt es in der Überschrift, KI hat ein gigantisches Engineering-Problem. Weil nämlich, du hast jetzt Harness gesagt, also genau diese Umgebung, in der das abläuft, wie sieht eigentlich so meine Entwicklungsumgebung aus?

Im Moment werden die ja auch noch so megamäßig subventioniert. Also wenn du dir bei OpenAI so das 200-Dollar-Abo, du kriegst halt locker für 20.000 Euro Token im Monat von dem Geschenk.

Also ich habe im Podcast ja letztens gesagt 14.000, wo aufgang ist es auf allen Wolken gefallen. Aber es muss gigantisch sein.

Also es schwankt halt. Also ich habe tatsächlich innerhalb von drei Monaten 20 Milliarden Token auf einem 200-Euro-Abo verheizt. Die 20 Milliarden Token ist dann eigentlich so ein sechsstelliger Betrag über die API.

20 Milliarden Token hast du verbraucht.

Ja, 20 Milliarden Token in drei Monaten.

Was hast du gemacht?

Ich baue hier so, also ich baue sehr viel an meiner Agentik-Harness herum. Also ich habe so verschiedene Dimensionen identifiziert, wo man wirklich noch, gute neue Produkte anbringen könnte, die einfach KI an sich besser machen. Und da arbeite ich relativ viel dran.

Also, okay, 20 Milliarden Token. Also ich habe, als wir Sommersalon gemacht haben, haben mich viele Leute angesprochen, auf die Frage hin, Stefan, kannst du mal deinen KI-Workflow veröffentlichen? Ich so, ich vibe mich da so rein, ich mache so Sachen, ich weiß nicht, ob ich das jetzt, wenn ich es zu detailliert zeige, nicht auch ein bisschen peinlich aussieht. Und dann habe ich natürlich alle auf unseren Podcast verwiesen, Kontextfenster, wo man das so ein bisschen nachhören kann.

Ich kann ja gerne nochmal eine Folge machen, wo ich mal so ein bisschen über mein Setup erzähle und was ich hier so baue. Das ist unglaublich.

Okay, wir kommen jetzt auf einen abschließenden Text, der genau in die andere Richtung geht.

I'm begging you, never write with AI. Schreibe niemals mit KI. Also keine 20 Milliarden Token durchpauken für irgendetwas. Bret Stephens schreibt in der New York Times. Diese Kolumne ist nicht so sehr eine Argumentation als vielmehr eine Bitte. Das ist ja auch ein tollen Text da. Nutzen Sie keine künstliche Intelligenz als Hilfe beim Schreiben.

Da ist ganz viel katholische Ideologie irgendwie so reingerutscht. Nur wenn du leidest, ist es echt.

Aber ich finde es trotzdem herrlich. Also ich würde dem Text jetzt nicht folgen. Es gibt genug Gebrauchstexte, bei denen es echt scheißegal ist. Hauptsache die Information wird vermittelt, wo auch nicht wichtig ist, also wie hier, man schreibt für andere, dass ein anderer, der es liest, jegliche emotionale Anerkennung, Verstörung oder so als Dank an den Autor weitergeben muss, sondern dann steht einfach eine Information für sich.

Also der hat definitiv nicht so einen mühevollen KI-Workflow wie ich, habe ich das Gefühl. Also wenn ich einen Text mit KI schreibe, dann sitze ich meistens vier bis acht Stunden dabei. Nicht am eigentlichen Schreiben des Textes, aber am gemeinsamen Denken. Also ich habe ganz viel so diesen Workflow halt, dass ich wirklich, ich hau den so an, so ey, was denkst du eigentlich über Thema XY?

Also Also genau das mache ich auch, außer diesen letzten Schritt, das Zusammenschreiben mache ich selber und wenn ich denke, nee, das würde mir jetzt zu schwer fallen, es wäre zu mühsam, dann ist halt das Skript dafür noch nicht ordentlich vorbereitet, aber der finales Schreibakt, man schreibt ja auch nicht immer ein Buch.

Ich persönlich habe tatsächlich ganz viel schreiben gelernt von KI, weil ich habe nämlich auch ganz viele Textformate habe ich am Anfang durch KI schreiben lassen. Und nachdem ich das ein paar Mal gemacht hatte, habe ich von der KI gelernt, wie ich meine Gedanken gut in Texte formuliere und mache das dann häufig einfach schnell eben selber. Aber irgendwie musste ich das auch erstmal gesehen haben, wie meine Gedanken in Schriftform aussehen, um dann quasi daraus lernen zu können, wie ich meine Gedanken selber auch verschriftlichen kann.

Ja, das ist absolut so. Und ich finde das, so toll ich diesen Text finde, vor allem wegen der Vehemenz. Die Aussage ist ein bisschen was anderes. Aber es wird auf jeden Fall unterschätzt, wie gut Claude zum Beispiel als Sparring-Partner ist für Gedankenentwicklung, Strukturierung und überhaupt und so.

Also deswegen lesen wir ja auch diesen MIT-Text dann, da werden ja aufgeklärte Gedanken drin sein zum Thema, wie man das mal neu ordnet, denn wir können nicht das ganze Schulsystem umstellen auf, von Frontalunterricht gehen wir weg, wir machen jetzt selbstgesteuertes Lernen, am liebsten in Gruppen, Menschen mit Menschen und dann aber sagen, ja die KI wird aber verteufelt, weil in diesen Kommunikationszusammenhang muss ja die KI mit rein.

Wir haben also die ideale Umgebung für sie geschaffen. Sie analysieren enorme Mengen an Informationen, blühen auf in Bürokratien, übernehmen sie und damit die Systeme, die unsere Menschheit kontrollieren. Und da würde ich sagen, ja, davor kann man mal warnen, denn, sehr häufig fällt es den Leuten dann doch zu einfach, also so sehr ich das abfeiere, dass jetzt im Journalismus Texte erscheinen mit, die Berliner Sozialgerichte sind alle überlastet, jeder gibt seinen KI-Text ab.

Ja, das ist ja bisher so ein System, was irgendwie halt auch darauf aufbaut, dass manche Leute halt auch einfach nicht reagieren können. So, da kommt irgendwie so ein Brief und vielleicht ist da irgendein Rechtsfehler dahinter oder sonst irgendwas, aber das weiß keiner. Und im Zweifelsfall macht er dann, was in dem Brief steht, wie er jetzt irgendwie vom Ordnungsamt oder so gekommen ist. Die KI gibt ja dann schon die Möglichkeit, da auch nochmal sich einen anderen Standpunkt zu besorgen.

Und das macht sich vor allem auch über eigene Sprache. Harari warnt noch vor einer Sache, bei der wir auch dranbleiben müssen. Also ob das Reasoning-Protokoll wirklich mit dem Denken der Maschine zu tun hat oder selber nur eine Ableitung ist. Er sagt, noch setzen Menschen der Technologie Grenzen. Also wird ihm hingelegt als zum Anschließen. Und er sagt, die KI wird sich zunehmend selbst erschaffen, möglicherweise eine eigene Sprache hervorbringen, die wir gar nicht verstehen.

Wenn man KI jetzt als ein Computerphänomen begreift, ist das aber auch gar nicht so erstaunlich. Ich meine, durch keinen unserer Prozessoren läuft menschliche Sprache. Das ist alles Maschinencode, alles Bits und Bytes und keiner kann das lesen. Also die eigene Sprache haben die schon sehr, sehr lange. Aber das ist doch nichts Besonderes.

Genau, aber ich finde, vielleicht sollte man es sogar umgedreht sehen. Plötzlich ist die Maschinensprache auch mir zugänglich. Unabhängig davon, ob jetzt Menschen als Programmiersprache das entwickelt haben oder die Maschine selbst auf Gedanken kann. Aber ich selbst kann das jetzt eben, aber eben mit dieser Approximationshoffnung, dass es am Ende hinhaut. Also ich kann ja nur reinpropfen, mir die Übersetzungsleistung anschauen und dann muss ich halt nachprüfen.

Was ich definitiv finde, ist, dass das ganze Thema KI im Endeffekt mit einem

Missverständnis aufräumt, was die meisten Leute über Coding haben. Und was dein Beispiel jetzt auch relativ gut zeigt. Also ich habe vielen, vielen Leuten im Laufe meines Lebens versucht, Programmieren beizubringen. Und ich habe immer festgestellt, wenn es scheitert, scheitert es meistens an dem Missverständnis, dass die Leute denken, sie lernen hier eine Fremdsprache, und dann drücken sie irgendwie in der Fremdsprache ihre ungeordneten Gedanken aus und dann funktioniert das.

Das habe ich jetzt auch gedacht, als ich, also es gibt ja zum einen diesen Film über die NASA-Programmierenden, also ganz viele Ingenieure entwickeln so diese Modelle und dann sitzen diese Frauen da und in Akkordarbeit wird das dann runtergebrochen auf Computer-Code. Und dann stehen sie ja neben diesen Fotos, also wo dann einfach der kilometerhohe Turm an Zetteln, wo die Lochkarten entsprechend hergestellt wurden.

Architectural Decision Record.

Ja, genau. Architekturentscheidung festgeschrieben.

Genau.

Wo einfach knallhart drinsteht, worüber wir nicht mehr diskutieren und was einfach gilt. Also eine sehr heikle Sache, muss man auch immer mal überprüfen. Aber solche Sachen, also wie oft haben wir von Claude Code, von diesen Entwicklern gehört, nutze den Planungsmodus, sag der Maschine, was sie machen soll und so weiter. Und genau das ist es ja jetzt. Man muss sich jetzt hinsetzen und sich richtig überlegen, was habe ich und was will ich, aber man muss nicht diesen, funktioniert der Code, wenn ich den so schreibe, darum kümmert sich die Maschinen eher und das finde ich auch, das ist ein völlig unterschätzter Punkt.

Ganz viele Entwickler, die jetzt erzählt bekommen, dass ihre Jobs bald gefährdet sind, die lachen ganz, ganz, ganz laut, weil deren Job schon immer war, den Kunden so zu verstehen, dass sie rausfinden, was der braucht und nicht, was der will. Und das ist schon immer eine genuin menschliche Leistung gewesen mit so ein paar Kulturtechniken wie Coding, die da dranhängen, die aber mal weniger und mal mehr wichtig sind. Also ich meine, es schreibt auch heute kein einziger stanzt mehr heute Lochkarten.

Wir können ja hier mal Harari daran anschließen lassen. Ich denke,

also bin ich, schrieb der Philosoph René Descartes im 17. Jahrhundert. Jetzt gibt es etwas, das intelligenter ist als wir. Also Sie gehen mit der Prämisse mit. Was bleibt vom Menschen, wenn die Maschinen besser denken, Harari? Es gibt zwei Arten, das Denken zu betrachten. Eine ist formalistisch. Es geht darum, Worte in eine Ordnung zu bringen und daraus Schlüsse zu ziehen.

Das ist total schlau.

Das hast du ja gerade beschrieben, zu verstehen, was der Kunde eigentlich braucht, und zwar nicht nur aus der Ableitung, worunter er leidet, wovon er erzählt.

Ja, Kunden sind witzigerweise in der Regel, wenn man ein halbes Jahr arbeitet und genau das tut, was die einem gesagt haben, ohne mitzudenken, sind die meistens ziemlich angepisst, weil die meisten Kunden sich halt einfach Mist bestellen, aber denken, das muss schon gut sein. Und wenn du da nicht einwirkst als Entwicklerin, dann hast du am Ende einfach keinen glücklichen Kunden.

Also es versöhnt dich sehr mit Harari dir, denn... Der Spiegel fragt jetzt, aus dem Magen, meinen Sie das ernst? Und Harari, absolut. Im Silicon Valley träumen manche davon, ihr Gehirn hochzuladen. Niemand will seinen Magen hochladen. Aber der Magen ist möglicherweise entscheidender als das Gehirn. Evolutionär kam er zuerst. Und das finde ich wahnsinnig interessant, denn Giulia Enders hat ja in ihrem Buch Organisch genauso argumentiert, alles muss im Ballon sein.

Oha.

Oha, ja. Naja. Sehr gut. Damit haben wir diese Texte hier besprochen. Ich schone jetzt meine Stimme. Und wir treffen uns hier wieder im Laufe des Septembers, da ja die ein oder andere politische Verwerfungen mit sich bringt, die uns egal sein werden. Denn das große Rad der KI muss ja hier weiter gedreht werden.

Jawohl, ich freue mich schon da drauf. Das wird bestimmt spannend.

Und falls ihr auf die Seite kommt und da findet ihr schon unsere E-Mail-Adresse. Also sie wird lauten mail-at-kontextfenster.org. Ob sie dann schon funktioniert, ist eine andere Frage. Dann schickt uns Rückmeldung auch zur Frage, welche Texte wir lesen sollen aus diesem Fundus. Wird natürlich dann von Claude ausgewertet, also sozusagen eine Umfrage, bei der am Ende zählen kann, wie viele Leute uns welche Texte, die wir da vorausgewählt haben.

Ja, ich schmeiß dann auch noch meine Texte dazu. Dann haben wir eine schöne große Auswahl und ich freue mich auf das Feedback.

Sehr gut. Haut rein, Leute.

Bis dann. Ciao.