- Doppelgänger Update
- Posts
- KW28 - Keine Angst vor der Superintelligenz
KW28 - Keine Angst vor der Superintelligenz
Doppelgänger Update (BETA)
Von Philipp Klöckner · 8. Juli 2024
👋 Hallo! Du empfängst diesen Newsletter als eine(r) von 15,040 Abonnent:innen (+41).
❤️ Danke an alle, die letzte Woche neue Leser:innen auf unseren Newsletter aufmerksam gemacht haben! Die “Share the Newsletter” Funktion findet ihr am Ende der aktuellen Ausgabe und das Rennen startet jeden Montag von neuem. Der heutige Newsletter hat 1.133 Worte und das vollständige Lesen dauert etwa 5 Minuten. Heute ist Montag, der 8. Juli 2024 und die KW28 startet.
🦾 Warum eine Superintelligenz unser kleineres Problem ist…
![](https://media.beehiiv.com/cdn-cgi/image/fit=scale-down,format=auto,onerror=redirect,quality=80/uploads/asset/file/31beabba-be80-4671-b703-05d5f0149ec7/image.png?t=1720426321)
OpenAI CTO Mira Murati und US Tech Jounalistin Kara Swisher
Das letzte Interview von OpenAI Technologie-Chefin Mira Murati ist vielen noch in Erinnerung. Auf die Frage ob OpenAIs Video-Modell Sora auch mit YouTube Daten trainiert wurde, gab Murati nur Unwissenheit vor. Meiner Meinung nach, weil die wahrheitsgemäße Antwort nur noch mehr Fragen aufwerfen würde.
Letzte Woche wurde Sam Altmans CTO von der US Tech-Legende Kara Swisher einvernommen. Die erstklassige Journalistin ist bekannt dafür, kein Blatt vor den Mund zu nehmen und keine “Softball” Fragen zu stellen. Murati navigiert Fragen über den Skandal um Scarlett Johansson und ihre zweitägige CEO Episode nach dem Rausschmiss von Sam Altman deutlich souveräner.
Chancen von AI sieht sie vor allem beim Thema Bildung. Angst bereitet ihr die schon jetzt übermenschliche Fähigkeit von AI andere Menschen mittels Konversation zu überzeugen oder zu manipulieren.
Während ich den Podcast gehört habe, dachte auch ich über diese zwei Aspekte nach. Meiner Meinung nach fokussiert sich unsere AI-Skepsis viel zu sehr auf die Gefahr, dass sich AI verselbständigt. Ein Risiko, welches die Menschheit mit entsprechendem Aufwand vermutlich gut kontrollieren kann. Für viel gefährlicher halte ich den potentiellen Schaden, den individuelle Akteure mittels AI auslösen könnten.
Bei Erfindung und Erprobung der Atombombe im Manhattan Project machten sich Wissenschaftler ebenfalls vor allem darum Sorgen, ob es zu einer unkontrollierbaren Kettenreaktion kommen könnte, welche die ganze Welt in Brand stecken könnte. Wie wir heute wissen, kann der Mensch dieses Risiko selbst in Anbetracht von Störfällen relativ gut kontrollieren.
Das viel größere Risiko für die Menschheit besteht in Anschlägen auf nukleare Komplexe, schmutzigen Bomben und irrationale Individuen mit dem Zugang zu Atomwaffen. Es ist natürlich eminent wichtig, sich der Risiken einer Verselbständigung der KI bewusst zu sein, während man die Forschung um künstliche Intelligenz in der derzeitigen Geschwindigkeit vorantreibt.
Ich bin mir aber relativ sicher, dass noch lange vor Erreichen einer solchen Superintelligenz vielfältige Risiken durch den menschengemachten Missbrauch von KI eintreten. Von Desinformation und Manipulation über den Angriff kritischer Infrastruktur und einem ganzen Bündel neuer Cyber-Verbrechen sind viele Gefahren schon jetzt gut vorhersehbar. Unkontrollierte Open Source Modelle ohne Master Switch könnten im schlimmsten Fall zur Handfeuerwaffe aus dem 3D-Drucker oder dem Biowaffen-Baukasten für jedermann werden.
🔗 Apple Podcasts | Spotify | Johns Hopkins University
“If Elon Musk is wrong about artificial intelligence and we regulate it who cares. If he is right about AI and we don’t regulate it we will all care..”
Das sind die weiteren News der Woche:
🤏 Small is beautiful: Die Entwicklung sogenannter Large Language Models glich in den letzten 18 Monaten einer Materialschlacht. Immer mehr Trainingsdaten wurden mit immer mehr Parametern in immer mächtigere Foundation Models geprügelt. Zwar erreichten OpenAI, Google und Co damit sehr berechenbare Fortschritte, aber auch die Kosten für das Training neuer Modelle nehmen inzwischen inhibitive Ausmaße an. So soll das Training von GPT-5 zwischen einer und mehr als zwei Milliarden (!) US-Dollar kosten. Längst beginnen die Tech-Giganten und Startups vergleichbare Ergebnisse mit kleineren und damit kostengünstigeren Modellen zu erreichen. Statt mit Kanonen auf Spatzen zu schießen, können sogenannte Small Language Models mit der Rechenkraft eines Smartphones teilweise schon anständige Outputs liefern.
🔗 Wall Street Journal | Reddit
📱Flix verpasst IPO-Bus: Das Münchener Mobilitätsunternehmen Flix SE galt als heißer Kandidat für einen Börsengang. Nun kaufen stattdessen der schwedische Private Equity Player EQT und das Family Office von Klaus-Michael Kühne 35% der Anteile für eine kolportierte knappe Milliarde Euro. Damit erhält das schon 13 Jahre alte, aber vermutlich noch Cash-Flow-negative Wachstumsunternehmen neue Mittel, schafft aber auch Liquidität für Altaktionäre und Mitarbeiter. Ein IPO könnte sich nun in 3-4 Jahren anschließen.
🔗 Manager Magazin | FAZ
🚩 NAGA Group Ex-CEO Ben Bilski verdient mit Meme Coins: Bis vor kurzem mimte Benjamin Bilski noch den Vorstand beim heutigen Pennystock Naga Group AG. Zuvor investierte unter anderem das Family Office des umstrittenen Investors Christian Angermayer in die Firma. Inzwischen scheint Bilski standesgemäß nach Dubai verzogen zu sein und vermarktet mit Hilfe von Influencern wir Prinz Marcus MemeCoins an Retailanleger. Crypto Beobachter wie das Magazin BlockFella nennen das Projekt von Bilski & Co einen “Exit Scam”. Die Performance der Meme Coins gleicht auf jeden Fall der Naga Group und weiteren Unternehmen aus dem Dunstkreis von Investor Angermayer.
🔗 YouTube | BlockFella
🚩 Betrugsvorwürfe gegen Northern Data: Wir bleiben im Angermayer Universum. Denn auch die Northern Data AG gehört zum Portfolio des Investors und unterhielt enge Geschäftsbeziehungen zum Family Office Apeiron. Gegenüber der Financial Times äußern geschasste Ex-Mitarbeiter aus den USA nun erhebliche Vorwürfe gegen die Geschäftsführung. So soll der Vorstand die finanzielle Stärke des Unternehmens gegenüber Investoren, Geschäftspartnern und Regulatoren bewusst falsch dargestellt haben und außerdem in erheblichem Umfang Steuern in den USA vermieden haben. Investoren warten derweil mal wieder etwas länger auf den Geschäftsbericht des abgelaufenen Jahres. Dieser sollte ursprünglich in der ersten Jahreshälfte veröffentlicht werden. Mit der Prüfung betraut wurde nun die eher unbekannte Wirtschaftsprüfungsgesellschaft Liebhart & Kollegen in Stuttgart.
🔗 Financial Times | WirtschaftsWoche
📺 Sehenswert: Ed Sander - Temu Demystified (25 min
![](https://media.beehiiv.com/cdn-cgi/image/fit=scale-down,format=auto,onerror=redirect,quality=80/uploads/asset/file/f9f2a80f-769d-4edc-b2dc-37dacf18a45d/image.png?t=1720435729)
Kaum jemand kann die Entwicklung der Plattform Temu so gut beschreiben wie der niederländische China-Versteher Ed Sander. Auf der SCORE! und der deutschen K5 Konferenz hielt er seine aktuelle Keynote “Temu demystified”, die ein prägnanter Überblick zum Erfolg der Chinesen ist.
🔗 YouTube
🖨️ Earnings Season: Quartalsergebnisse der Woche
Montag 8. Juli: —
Dienstag 9. Juli: —
Mittwoch 10. Juli: —
Donnerstag 11. Juli: Pepsi (BMO), Delta Airlines (BMO), Consumer Price Index (CPI)
Freitag 12. Juli: JP Morgan (BMO), Wells Fargo (BMO), Citi (BMO)
AMC: After Markets Close (nach Börsenschluss 22 Uhr) | BMO: Before Markets Open (morgens)
Nicht vollständig, lediglich Aktien, die wir als relevant erachten oder im Podcast/Sheet covern.
Dieser Newsletter wird auch weiterhin jeden Montagmorgen auf wundersame Weise in Deiner Inbox erscheinen. Einen Faxabruf gibt es leider nicht. Vielleicht solltest Du die Absender-eMail in Deinem eMail-Programm whitelisten oder den Newsletter in Deine Primary Inbox verschieben, um keine Ausgabe zu verpassen.
Danke für Deine Zeit und Aufmerksamkeit! ❤️
📮 Schick mir gern Dein Feedback an [email protected] oder leite diese Mail an Freunde und Kollegen weiter, wenn Du sie nützlich fandest.
Oder nutze diesen Link um ihn in sozialen Netzwerken und mit Freunden zu teilen: https://doppelgaenger.beehiiv.com/subscribe?ref=PLACEHOLDER
Die erfolgreichsten Helfer:innen, erwähnen wir im nächsten Newsletter.