Der Gründer von OpenAI und der Chefwissenschaftler stehen selten auf einer Bühne: Das Aufregendste in der KI passiert gerade!

Autor: Zhu Xueying

Bildquelle: Erstellt vom Unbounded AI-Tool

Als die monatliche Aktivität von ChatGPT die 1-Milliarde-Marke erreichte, erregte auch die „globale Tour“ des OpenAI-Gründers Sam Altman Aufmerksamkeit.

Diese Woche kam SamAltman an die Universität Tel Aviv in Israel und führte ein lebhaftes und ausführliches Interview mit Ilya Sutskavel, dem Chefwissenschaftler von OpenAI, der in Israel aufgewachsen ist (die beiden teilten selten die gleiche Bühne). Sam war für einen Moment ratlos Ich brauchte keine Worte, wenn ich darum gebeten wurde, und es hat sich gelohnt, mir zuzuhören.

Kernstandpunkt: **1. Die Vorteile von OpenAI: **Wir konzentrieren uns mehr auf das, was wir tun, und unsere Kultur konzentriert sich auf rigorose und wiederholbare Innovation. 2. Der Platz der Wissenschaft in der KI: Die Wissenschaft stand früher an der Spitze der KI-Forschung, aber das hat sich aufgrund der schwächeren Rechenleistung und des Mangels an Ingenieurskultur geändert. Aber die Wissenschaft kann immer noch wichtige Beiträge zur KI leisten und viele der Rätsel der neuronalen Netze lösen, die wir trainieren. **3. Open Source oder nicht Open Source: **Wir haben einige Modelle als Open Source bereitgestellt und planen, weitere Modelle als Open Source bereitzustellen. Wir glauben jedoch nicht, dass es die richtige Strategie ist, alle Modelle als Open Source bereitzustellen, und wir arbeiten hart ein Gleichgewicht zu finden. **4. Risiken, die in der KI nicht ignoriert werden können: ** Arbeitsplätze werden beeinträchtigt, Hacker erlangen Superintelligenz und Systeme verlieren die Kontrolle – das sind die drei besorgniserregenden Risiken der KI. KI kann Erstaunliches, aber auch Schlechtes bewirken, daher verfügen wir über geeignete Regulierungsstrukturen, um den Einsatz dieser Technologie zu kontrollieren, etwa durch die Einrichtung globaler Institutionen. **5. Wird KI die wissenschaftliche Entdeckung beschleunigen: **KI könnte Menschen dabei helfen, einige wissenschaftliche Ziele zu erreichen, die derzeit unerreichbar sind, wie etwa die Förderung der medizinischen und gesundheitlichen Entwicklung, die Eindämmung von Problemen des Klimawandels und sogar die Erforschung der Geheimnisse des Universums. Die Sache worüber sich die Leute am meisten freuen.

Dem gesamten Interview mangelt es nicht an Tiefe, es ist aber auch interessant.

Ilya erzählte zum Beispiel freudig, dass seine Eltern ihm erzählt hätten, dass auch seine Freunde täglich ChatGPT nutzen, was ihn sehr überraschte. Und als das Publikum fragte: „Du schreibst Geschichte, wie soll die Geschichte an dich erinnern?“, antwortete Ilya ebenfalls witzig: ** „Ich meine, im besten Sinne.“**

Das Folgende ist der vollständige Text des Interviews:

Ein Doktortitel und ein Studienabbrecher: zwei verschiedene Leben vor OpenAI

Ilya:

Im Alter von 5 bis 16 Jahren lebte ich in Jerusalem. Zwischen 2000 und 2002 habe ich an der Open University studiert. Anschließend wechselte ich an die University of Toronto, wo ich zehn Jahre lang die Abschlüsse BA, MA und PhD erwarb. Während meines Graduiertenstudiums hatte ich das Privileg, zu wichtigen Fortschritten im Deep Learning beizutragen. Dann habe ich mit einigen Leuten ein Unternehmen gegründet, das von Google übernommen wurde, wo ich eine Zeit lang gearbeitet habe.

Dann bekam ich eines Tages eine E-Mail von Sam, in der es hieß: „Hey, lass uns mit ein paar coolen Leuten abhängen.“ Ich war neugierig und habe mich dafür entschieden. Das war das erste Mal, dass ich Elon Musk und Greg Brockman traf, und wir beschlossen, die OpenAI-Reise zu beginnen. Wir machen das schon seit vielen Jahren, also sind wir jetzt hier.

Sich selbst:

Als Kind war ich sehr begeistert von KI und war ein Science-Fiction-Nerd. Es kam mir nie in den Sinn, die Möglichkeit zu haben, es zu studieren, aber dann begann ich im College, eine Zeit lang daran zu arbeiten. Aber dann hatte es nicht wirklich Fahrt aufgenommen, es war wie 2004… Ich habe die Schule abgebrochen und ein Start-up gegründet.

Eine Weile nach den von Ilya erwähnten Fortschritten war ich wirklich begeistert von dem, was mit der KI los war, und schickte ihm eine E-Mail, und wir machen immer noch weiter.

Die Vorteile von OpenAI

Gastgeber:

Was sind Ihrer Meinung nach die größten Stärken von OpenAI, insbesondere da die Wettbewerber oft größer sind und über mehr Ressourcen verfügen, was es zu einem Spitzenreiter in der generativen KI macht?

Sich selbst:

Wir glauben, dass ein wesentlicher Vorteil darin besteht, dass wir uns stärker auf das konzentrieren, was wir tun. Es ist wichtig und wird missverstanden, dass wir eine höhere Talentdichte haben als größere Unternehmen. **Unsere Kultur legt Wert auf Genauigkeit und wiederholbare Innovation, und es ist schwierig und selten, dass diese beiden Kulturen nebeneinander existieren. **

Ilya:

Ja, ich kann Sams Antwort nur wenig hinzufügen. **Dies ist ein Glaubensspiel. Mehr Glaube bedeutet mehr Fortschritt. **Sie werden die größten Fortschritte machen, wenn Sie viel Vertrauen haben. Es mag wie ein Witz klingen, aber es ist tatsächlich wahr. Man muss an die Idee glauben und sie hart vorantreiben, das ist es, was den Fortschritt antreibt.

Die Position der Wissenschaft im Bereich KI

Gastgeber:

Die jüngsten Fortschritte in der künstlichen Intelligenz wurden größtenteils von der Industrie vorangetrieben. Welche Rolle sollte die akademische Forschung Ihrer Meinung nach bei der Entwicklung des Fachgebiets spielen?

Ilya:

Die Rolle der Wissenschaft im Bereich KI hat sich erheblich verändert. Früher stand die Wissenschaft an der Spitze der KI-Forschung, aber das hat sich geändert. Es gibt zwei Gründe: Rechenleistung und Ingenieurskultur. Die akademische Welt verfügt über weniger Rechenleistung und oft fehlt es an einer Ingenieurskultur.

Die Wissenschaft kann jedoch immer noch bedeutende und wichtige Beiträge zur KI leisten. **Die Wissenschaft kann viele Geheimnisse der von uns trainierten neuronalen Netze lüften und wir erschaffen komplexe und erstaunliche Objekte. **

Was ist Deep Learning? Es handelt sich um einen alchemistischen Prozess, bei dem wir Daten als Rohmaterial in Kombination mit Rechenenergie verwenden, um diese Intelligenz zu erhalten. Aber was genau ist das? Wie funktioniert es? Welche Eigenschaften hat es? Wie kontrollieren wir es? Wie ist es zu verstehen? Wie wendet man es an? Wie misst man es? Diese Fragen sind alle unbekannt.

**Selbst bei einfachen Messaufgaben können wir die Leistung unserer KI nicht genau beurteilen. Früher war das kein Problem, da KI nicht so wichtig war. Künstliche Intelligenz ist mittlerweile sehr wichtig, aber uns ist klar, dass wir sie immer noch nicht vollständig messen können. **

Also begann ich über einige Probleme nachzudenken, die niemand lösen kann. Um diese Fragen zu stellen und Fortschritte zu erzielen, sind keine riesigen Computercluster oder riesigen Ingenieurteams erforderlich. Wenn Sie den Durchbruch schaffen, wird das ein überzeugender und bedeutungsvoller Beitrag sein, dem jeder sofort Aufmerksamkeit schenken wird.

Gastgeber:

Wir wollen einen Fortschritt sehen, der zwischen Industrie und Wissenschaft vollkommen ausgeglichen ist, und wir wollen mehr Beiträge dieser Art sehen. Glauben Sie, dass etwas getan werden kann, um die Situation zu verbessern, insbesondere von Ihrer Position aus? Gibt es irgendeine Art von Unterstützung?

Ilya:

Zunächst einmal denke ich, dass die Änderung der Denkweise das Erste und Wichtigste ist. Heutzutage bin ich ein wenig außerhalb der akademischen Welt, aber ich glaube, dass es bei dem, was wir tun, eine gewisse Krise gibt.

Bei einer großen Anzahl von Beiträgen herrscht zu viel Dynamik, aber es ist wichtig, sich auf die Lösung der kritischsten Probleme zu konzentrieren. Wir müssen unsere Denkweise ändern und uns auf die wichtigsten Themen konzentrieren. **Wir können uns nicht nur auf das konzentrieren, was wir bereits wissen, sondern uns auch darüber im Klaren sein, was falsch läuft. **Sobald wir die Probleme verstanden haben, können wir uns an ihre Lösung machen.

Außerdem können wir helfen. Wir haben beispielsweise ein Academic Access Program, bei dem sich Akademiker bewerben können, um Rechenkapazität und Zugang zu unseren hochmodernen Modellen zu erhalten. Viele Universitäten haben Arbeiten mit GPT-3 verfasst und die Eigenschaften und Verzerrungen der Modelle untersucht. Wenn Sie weitere Ideen haben, würde ich sie gerne hören.

Open Source ODER nicht Open Source

Gastgeber:

Während einige Akteure die Open-Source-Veröffentlichung ihrer Modelle und ihres Codes wirklich fördern, tun andere nicht genug. Auch hier geht es um offene KI. Daher frage ich mich zunächst einmal: Was halten Sie davon? Wenn Sie zustimmen, warum ist OpenAI Ihrer Meinung nach die richtige Strategie?

Sich selbst:

**Wir haben einige Modelle als Open-Source-Version bereitgestellt und planen, im Laufe der Zeit weitere Open-Source-Modelle bereitzustellen. Aber ich glaube nicht, dass Open-Sourcing alles die richtige Strategie ist. **Wenn die heutigen Modelle interessant sind, können sie vielleicht für etwas nützlich sein, aber im Vergleich zu dem, was wir gerade erstellen werden, sind sie immer noch relativ primitiv. Ich denke, die meisten Leute würden dem zustimmen. Wenn wir wissen, wie man eine superleistungsfähige AGI erstellt, die viele Vor-, aber auch Nachteile hat, ist Open Source möglicherweise nicht die beste Option.

**Also versuchen wir, ein Gleichgewicht zu finden. **Einige Dinge werden wir als Open Source veröffentlichen, und wenn sich unser Verständnis des Modells verbessert, werden wir im Laufe der Zeit in der Lage sein, weitere Open Source-Inhalte bereitzustellen. Wir haben eine Menge Dinge veröffentlicht, und ich denke, dass viele der Schlüsselideen, mit denen andere derzeit Sprachmodelle erstellen, aus den Veröffentlichungen von OpenAI stammen, wie zum Beispiel den frühen GPT-Papieren und Skalierungsgesetzen aus der Arbeit von Rohf. Aber es ist eine Balance, die wir im weiteren Verlauf finden müssen. Wir sind mit vielen verschiedenen Stressfaktoren konfrontiert und müssen diese erfolgreich bewältigen.

Gastgeber:

Erwägen Sie also, das Modell einem bestimmten Publikum zugänglich zu machen, anstatt es der Welt als Open Source zur Verfügung zu stellen? Woran denken Sie als Wissenschaftler oder wenn wir das GPT-4-Training abschließen?

Sich selbst:

Wir haben fast acht Monate gebraucht, um es zu verstehen, zu sichern und herauszufinden, wie wir es anpassen können. Wir haben externe Prüfer, Red Teams und die beteiligte wissenschaftliche Gemeinschaft. Deshalb ergreifen wir diese Schritte und werden dies auch weiterhin tun.

Risiken, die die KI nicht ignorieren kann

Gastgeber:

Ich denke, Risiko ist ein sehr wichtiges Thema und es gibt wahrscheinlich mindestens drei Risikokategorien.

Die erste ist die wirtschaftliche Verwerfung, bei der Arbeitsplätze überflüssig werden. Die zweite Kategorie können Situationen sein, in denen mächtige Waffen in den Händen einiger weniger sind. Wenn Hacker beispielsweise in der Lage wären, diese Tools zu nutzen, könnten sie Dinge tun, für die zuvor Tausende von Hackern nötig gewesen wären. Die letzte Kategorie ist wahrscheinlich die besorgniserregendste, bei der das System außer Kontrolle gerät und selbst der Auslöser sein Verhalten nicht verhindern kann. Ich würde gerne wissen, was Sie über die einzelnen Szenarien denken.

Ilya:

OK, beginnen wir mit den möglichen Szenarien für ein wirtschaftliches Chaos. Wie Sie erwähnt haben, gibt es bei ** drei Risiken: Arbeitsplätze werden gefährdet, Hacker erlangen Superintelligenz und Systeme geraten außer Kontrolle. **Wirtschaftliches Chaos ist in der Tat eine Situation, die wir bereits kennen, da einige Arbeitsplätze bereits betroffen oder gefährdet sind.

Mit anderen Worten: Bestimmte Aufgaben können automatisiert werden. Wenn Sie beispielsweise Programmierer sind, kann Copilot Funktionen für Sie schreiben. Dies unterscheidet sich jedoch vom Fall der Künstler, da viele wirtschaftliche Aktivitäten von Künstlern durch einige Bildgeneratoren ersetzt wurden.

Ich glaube nicht, dass das wirklich eine einfache Frage ist. **Trotz der Schaffung neuer Arbeitsplätze wird die wirtschaftliche Unsicherheit noch lange anhalten. Ich bin mir nicht sicher, ob dies der Fall ist. **

Auf jeden Fall brauchen wir jedoch etwas, das den Übergang zum Ansturm aufstrebender Berufe erleichtert, auch wenn diese Berufe noch nicht existieren. Dies erfordert die Aufmerksamkeit der Regierung und des Sozialsystems.

Lassen Sie uns nun über Hacking sprechen. Ja, das ist eine knifflige Frage. KI ist wirklich mächtig und Bösewichte können sie auf wirkungsvolle Weise nutzen. Wir müssen einen Rahmen anwenden, der anderen sehr mächtigen und gefährlichen Werkzeugen ähnelt.

Beachten Sie, dass wir heute nicht über künstliche Intelligenz sprechen, sondern über die im Laufe der Zeit zunehmenden Fähigkeiten. Im Moment befinden wir uns auf einem Tiefpunkt, aber wenn wir dort ankommen, wird es sehr stark sein. **Diese Technologie kann in erstaunlichen Anwendungen eingesetzt werden, sie kann zur Heilung von Krankheiten eingesetzt werden, sie kann aber auch Krankheiten hervorrufen, die schlimmer sind als alles, was es zuvor gab.

Deshalb brauchen wir Strukturen, um den Einsatz dieser Technologie zu kontrollieren. Sam zum Beispiel hat ihnen ein Dokument vorgelegt, in dem er einen IAEA-ähnlichen Rahmen für die Kontrolle der Kernenergie vorschlägt, um sehr leistungsfähige künstliche Intelligenz zu kontrollieren. **

Gastgeber:

Bei der letzten Frage geht es darum, dass superintelligente künstliche Intelligenz außer Kontrolle gerät. Man kann sagen, dass dies zu einem riesigen Problem werden wird. Ist es ein Fehler, eine superintelligente künstliche Intelligenz aufzubauen, die wir nicht kontrollieren können?

Sich selbst:

Ich kann einige Punkte hinzufügen. Dem letzten Satz stimme ich natürlich voll und ganz zu.

Auf wirtschaftlicher Ebene fällt es mir schwer, zukünftige Entwicklungen vorherzusagen. Ich denke, das liegt daran, dass es derzeit auf der Welt so viel Übernachfrage gibt und diese Systeme wirklich gut dabei helfen, Dinge zu erledigen. Doch in den meisten Fällen können heute nicht alle Aufgaben von ihnen erledigt werden.

**Ich denke, kurzfristig sieht es gut aus und wir werden eine deutliche Produktivitätssteigerung erleben. **Wenn wir Programmierer doppelt so produktiv machen könnten, würde sich die weltweit benötigte Codemenge mehr als verdreifachen, also sieht alles gut aus.

Ich denke, dass diese Systeme auf lange Sicht immer komplexere Aufgaben und Arbeitskategorien bewältigen werden. Einige dieser Jobs werden vielleicht verschwinden**, aber andere werden eher zu Jobs werden, die wirklich Menschen und zwischenmenschliche Beziehungen erfordern. **Die Leute wollen wirklich, dass Menschen diese Rollen übernehmen.

Diese Rollen sind möglicherweise nicht offensichtlich. Als Deep Blue beispielsweise Garry Kasparov besiegte, wurde die Welt zum ersten Mal Zeuge künstlicher Intelligenz. Damals sagten alle, das Schach sei vorbei und niemand würde mehr Schach spielen, weil es keinen Sinn ergab.

Wir sind uns jedoch einig, dass Schach noch nie so beliebt war wie heute. Der Mensch ist stärker, nur die Erwartungen sind höher. Wir können diese Werkzeuge verwenden, um unsere eigenen Fähigkeiten zu verbessern, aber die Leute spielen immer noch sehr gerne Schach, und die Leute scheinen sich immer noch um andere Menschen zu kümmern.

Sie haben erwähnt, dass Dolly großartige Kunst schaffen kann, aber den Menschen liegen die Menschen hinter der Kunst, die sie kaufen möchten, immer noch am Herzen, und wir alle halten diese Schöpfer für etwas Besonderes und Wertvolles.

Nehmen wir als Beispiel Schach: So wie die Menschen dem menschlichen Schach mehr Aufmerksamkeit schenken, schauen sich mehr Menschen menschliches Schach an als je zuvor. Allerdings möchten nur wenige Menschen ein Spiel zwischen zwei KIs sehen. Ich denke also, dass es sich dabei um all diese unvorhersehbaren Faktoren handeln wird. **Ich denke, Menschen sehnen sich nach Differenzierung (zwischen Menschen und Maschinen). **

Das Bedürfnis, etwas Neues zu schaffen, um Status zu erlangen, wird immer da sein, aber es wird sich auf ganz andere Weise manifestieren. Ich wette, dass die Arbeitsplätze in 100 Jahren völlig anders sein werden als die heutigen, und viele dieser Dinge werden sehr ähnlich sein. Aber ich stimme voll und ganz mit dem überein, was Ilya gesagt hat: **Was auch immer passiert, wir brauchen eine andere Art von sozioökonomischem Vertrag, denn die Automatisierung hat bisher unvorstellbare Höhen erreicht. **

Gastgeber:

Sam, Sie haben kürzlich eine Petition unterzeichnet, in der Sie dazu aufrufen, die existenzielle Bedrohung durch künstliche Intelligenz ernst zu nehmen. Vielleicht sollten Unternehmen wie OpenAI Maßnahmen ergreifen, um dieses Problem anzugehen.

Sich selbst:

Ich möchte wirklich betonen, dass wir hier nicht über die heutigen Systeme oder kleine Start-up-Trainingsmodelle oder Open-Source-Communitys sprechen.

Ich denke, es wäre ein Fehler, diesem Bereich jetzt starke Regulierungen aufzuerlegen oder zu versuchen, unglaubliche Innovationen zu bremsen. Ich möchte wirklich keine inkonsistente Superintelligenz schaffen, die unbestreitbar erscheint. **Ich denke, die Welt sollte dies nicht als ein Science-Fiction-Risiko betrachten, das niemals eintreten wird, sondern als etwas, mit dem wir uns im nächsten Jahrzehnt möglicherweise befassen müssen. Es wird einige Zeit dauern, bis wir uns an einige Dinge gewöhnt haben, aber es wird nicht passieren. Es dauert nicht lange. **

Also kamen wir auf eine Idee und hoffentlich eine bessere. Wenn wir eine globale Organisation aufbauen können mit der höchsten Rechenleistung und Technologiegrenze, kann ein Framework entwickelt werden, um Modelle zu lizenzieren und ihre Sicherheit zu überprüfen, um sicherzustellen, dass sie die erforderlichen Tests bestehen. Dies wird uns helfen, dieses Problem als ein sehr ernstes Risiko zu betrachten. Ähnliches machen wir mit der Kernenergie.

Wird KI in Zukunft wissenschaftliche Entdeckungen beschleunigen? Krankheiten heilen, Klimaprobleme lösen?

Gastgeber:

Lassen Sie uns über Vorteile sprechen. In diesem wissenschaftlichen Umfeld, in dem wir uns befinden, frage ich mich, welche Rolle künstliche Intelligenz spielt. In ein paar Jahren, vielleicht in der Zukunft, werden wir etwas Wissenschaftliches entdecken können.

Sich selbst:

**Das ist es, was mich persönlich am meisten an KI begeistert. **Ich denke, es passieren viele aufregende Dinge, enorme wirtschaftliche Vorteile, enorme Vorteile für die Gesundheitsversorgung. Aber tatsächlich kann künstliche Intelligenz uns helfen, einige wissenschaftliche Entdeckungen zu machen, die derzeit unmöglich sind. Wir würden gerne etwas über die Geheimnisse des Universums und noch mehr erfahren. Ich bin fest davon überzeugt, dass wissenschaftlicher und technologischer Fortschritt der einzige nachhaltige Weg ist, das Leben besser und die Welt zu einem besseren Ort zu machen.

Wenn wir viele neue wissenschaftliche und technologische Fortschritte erzielen können, haben wir meiner Meinung nach bereits die Anfänge des Menschen gesehen. Nutzen Sie diese Tools, um die Effizienz zu steigern. Aber wenn Sie sich eine Welt vorstellen, in der Sie sagen können: „Hey, ich kann helfen, alle Krankheiten zu heilen“, und die Ihnen dabei helfen kann, alle Krankheiten zu heilen, dann wäre diese Welt vielleicht ein besserer Ort. Ich glaube nicht, dass wir davon so weit entfernt sind.

Gastgeber:

Neben Krankheiten ist der Klimawandel ein weiteres großes Problem, dessen Lösung sehr schwierig ist. Aber ich glaube nicht, dass es besonders schwierig sein wird, mit dem Klimawandel umzugehen, wenn wir erst einmal wirklich leistungsstarke superintelligente Systeme haben.

Ilya:

Ja, Sie brauchen viel CO2-Abscheidung. Sie benötigen die Energie für die CO2-Abscheidung und die Technologie, um sie aufzubauen. Wenn Sie die Wissenschaft beschleunigen können, müssen Sie viel aufbauen. Fortschritt ist das, was leistungsstarke künstliche Intelligenz leisten kann, und wir können viel schneller eine sehr fortschrittliche Kohlenstoffabscheidung erreichen. Es kann schneller zu sehr billigem Strom kommen, und wir können schneller zu einer günstigeren Produktion gelangen. Kombinieren Sie nun alle drei Faktoren: billiger Strom, billige Herstellung und fortschrittliche Kohlenstoffabscheidung, und jetzt bauen Sie viele davon, und jetzt saugen Sie all dieses überschüssige CO2 aus der Atmosphäre.

**Wenn Sie über eine starke künstliche Intelligenz verfügen, wird dies den Fortschritt in Wissenschaft und Technik erheblich beschleunigen. **Dadurch wird die Planung heute deutlich einfacher. Ich glaube, dass dies die Beschleunigung des Fortschritts erleichtern wird. Das zeigt, dass wir größere Träume haben sollten. Sie können sich vorstellen, dass Sie, wenn Sie in der Lage wären, ein System zu entwerfen, es bitten könnten, Ihnen zu sagen, wie Sie große Mengen sauberer Energie zu geringen Kosten erzeugen, wie Sie Kohlenstoff effizient abscheiden können, und Sie beim Bau einer Anlage unterstützen könnten, die diese Aufgaben erfüllt . Wenn Sie diese erreichen, können Sie auch in vielen anderen Bereichen Erfolge erzielen.

Wundervoller ChatGPT

Gastgeber:

Da Sie nicht damit gerechnet haben, dass ChatGPT so weit verbreitet sein würde, frage ich mich, ob es Beispiele dafür gibt, dass andere Menschen wirklich von seinem Wert und seinen Fähigkeiten überrascht sind.

Ilya:

Ich war so überrascht und erfreut, als meine Eltern mir erzählten, wie ihre Freunde ChatGPT in ihrem täglichen Leben nutzen. Es ist schwer, unter den vielen liebenswerten Geschichten eine auszuwählen, die die Brillanz menschlicher Kreativität zeigt und zeigt, wie Menschen dieses mächtige Werkzeug nutzen.

Es war großartig für uns im Bildungsbereich und zu sehen, wie so viele Menschen Worte schreiben, die ihr Leben auf diese Weise verändern, ist für mich wirklich transformierend, denn jetzt kann ich alles lernen, ich lerne bestimmte Dinge oder Dinge sagen, von denen ich nicht wusste, wie man das macht vorher tun, ich jetzt tun.

Für mich persönlich ist es sehr befriedigend und schön zu sehen, wie Menschen auf neue und bessere Weise lernen und sich vorzustellen, wie es in ein paar Jahren sein wird. Bei diesem Tempo hätten wir nicht damit gerechnet, dass das passieren würde, was wirklich erstaunlich ist.

Dann gibt es noch eine interessante Geschichte, die ich erst gestern gehört habe. Es heißt, dass ein Mann jeden Abend zwei Stunden damit verbrachte, mit seinen Kindern Gute-Nacht-Geschichten zu schreiben. Diese Geschichten gehören allesamt zu den Lieblingssachen der Kinder und es wird zu einem besonderen Moment. Sie hatten jeden Abend eine tolle Zeit.

Fragen aus dem Publikum:

Frage 1: Kann Open-Source-LLM ohne zusätzliche fortgeschrittene Techniken mit den Fähigkeiten von GPT-4 mithalten? Oder steckt in GPT-4 ein dunkles Geheimnis, das es von anderen Modellen unterscheidet? Ich installiere das Vicuna-Modell von Stability, 13 Milliarden Parameter … Verschwende ich Zeit?

Sam: Mir fehlen die Worte…

Ilya:

Bei der Frage nach Open-Source- und Nicht-Open-Source-Modellen müssen wir nicht in binären Schwarz-Weiß-Begriffen denken. Es ist, als gäbe es eine geheime Quelle, die man nie wieder entdecken kann.

**Vielleicht wird es eines Tages ein Open-Source-Modell geben, das die Fähigkeiten von GPT-4 repliziert, aber dieser Prozess wird Zeit brauchen, und bis dahin könnte ein solches Modell innerhalb eines großen Unternehmens zu einem leistungsfähigeren Modell werden. **Daher wird es immer eine Lücke zwischen dem Open-Source-Modell und dem privaten Modell geben, und diese Lücke kann sich allmählich vergrößern. Der Arbeits-, Ingenieurs- und Forschungsaufwand, der zur Herstellung eines solchen neuronalen Netzwerks erforderlich ist, wird weiter zunehmen.

**Selbst wenn Open-Source-Modelle existieren, werden sie immer weniger von einer kleinen Gruppe engagierter Forscher und Ingenieure entwickelt, sondern es wird nur ein einziges Unternehmen sein, ein großes Unternehmen (das zu Open Source beiträgt). **

Frage 2: Wenn Sie wirklich glauben, dass KI für den Menschen gefährlich ist, warum sollten Sie sie dann weiterentwickeln? Wenn OpenAI und anderen KI-Unternehmen Vorschriften auferlegt würden, würden Sie sich daran halten? Zuckerberg sagte, er habe versucht, jede Regulierung zu umgehen, die er fand.

Sich selbst:

Ich denke, das ist eine sehr berechtigte und wichtige Frage. Der schwierigste Teil unserer Arbeit besteht darin, das enorme Potenzial der künstlichen Intelligenz mit den damit verbundenen ernsthaften Risiken in Einklang zu bringen. Wir müssen uns die Zeit nehmen, darüber zu diskutieren, warum wir diesen Risiken ausgesetzt sind und warum sie überhaupt bestehen.

Ich denke schon, dass die Dinge besser aussehen, wenn wir auf den heutigen Lebensstandard und unsere gestiegene Toleranz gegenüber Menschen zurückblicken. Im Vergleich zu vor 500 oder 1000 Jahren haben sich die Lebensbedingungen der Menschen erheblich verbessert. Wir fragen uns: Können Sie sich vorstellen, dass Menschen in extremer Armut leben? Können Sie sich Menschen vorstellen, die an Krankheiten leiden? Können Sie sich eine Situation vorstellen, in der nicht jeder gut ausgebildet ist? Das sind die Realitäten barbarischer Zeiten.

**Obwohl KI einige Risiken birgt, sehen wir auch das Potenzial, unser Leben zu verbessern, die wissenschaftliche Forschung voranzutreiben und globale Probleme zu lösen. **

Wir müssen die KI auf verantwortungsvolle Weise weiterentwickeln und regulatorische Maßnahmen ergreifen, um sicherzustellen, dass Sicherheits- und ethischen Bedenken angemessen Rechnung getragen wird. Unser Ziel ist es, künstliche Intelligenz zu einem Werkzeug für den menschlichen Fortschritt und nicht zu einer Bedrohung zu machen. Dies erfordert unsere gemeinsamen Anstrengungen, einschließlich der Beteiligung der technischen Gemeinschaft, der Regierung und aller Parteien in der Gesellschaft, um einen nachhaltigen und ethischen Rahmen für die Entwicklung künstlicher Intelligenz zu schaffen.

Wie man es macht, ich denke auch, dass es wie ein unaufhaltsamer Fortschritt ist. Die Technologie steht nicht still, sie entwickelt sich weiter. Als großes Unternehmen müssen wir also herausfinden, wie wir mit den damit verbundenen Risiken umgehen können.

Ein Grund dafür ist, dass das Risiko und der zu seiner Bewältigung erforderliche Ansatz außergewöhnlich sind. Wir mussten einen Rahmen schaffen, der sich von herkömmlichen Strukturen unterscheidet. Wir haben eine Gewinnobergrenze und ich glaube, dass Anreize ein wichtiger Faktor sind. Wenn Sie die richtigen Anreize schaffen, kann dies oft zu dem gewünschten Verhalten führen.

Wir versuchen also sicherzustellen, dass alles gut funktioniert und nicht mehr oder weniger Gewinn abwirft. Wir haben keine Anreizstruktur wie ein Unternehmen wie Facebook, was ich großartig finde. Die Leute bei Facebook haben eine Anreizstruktur, aber diese Struktur birgt einige Herausforderungen.

Wir versuchen durch AGI Erfahrungen zu sammeln. Wie Ilya oft erwähnte, haben wir zunächst versucht, AGI zu erleben, als wir das Unternehmen gründeten, und anschließend die Gewinnstruktur aufgebaut. Daher müssen wir ein Gleichgewicht zwischen den Anforderungen an die Rechenressourcen und der Konzentration auf die Mission finden. Eines der Themen, die wir diskutieren, ist, welche Struktur es uns ermöglicht, Regulierungen mit Begeisterung anzunehmen, auch wenn sie uns am meisten weh tun.

Jetzt ist es an der Zeit,** wir treiben weltweit die Regulierung voran, die den größten Einfluss auf uns haben wird. **Natürlich halten wir uns an die Regeln. Ich denke, wenn Menschen in Gefahr sind, fällt es ihnen leichter, sich gut zu benehmen und nach einem Sinn zu suchen. Ich denke also, dass die Eigentümer dieser führenden Unternehmen es jetzt spüren und dass sie anders reagieren werden als die Social-Media-Unternehmen. Ich denke, alle Zweifel und Bedenken sind berechtigt. Wir kämpfen jeden Tag mit diesem Problem und es gibt keine einfache Antwort darauf.

Frage 3: Ich möchte verstehen, was die Lücke zwischen dem von Ihnen verwendeten KI-Modell und dem von uns verwendeten Modell ist. Ich weiß, dass wir in vielerlei Hinsicht eingeschränkt sind, was bei Ihnen scheinbar nicht der Fall ist, aber was ist der Unterschied zwischen der Macht, die Sie haben, und der Macht, die wir nutzen können?

Ilya:

Die Lücke zwischen den von Ihnen genannten Modellen ist tatsächlich ein Problem.

Ich meine, jetzt haben wir GPT-4, Sie wissen, dass wir trainieren, Sie haben Zugriff auf GPT-4** und wir arbeiten wirklich am nächsten zukünftigen Modell. **

Vielleicht kann ich diese Lücke folgendermaßen beschreiben: Während wir weiterhin KI-Modelle mit erweiterten Fähigkeiten entwickeln und verbessern, gibt es eine größere Lücke, die längere Testzeiträume und -zeiten erfordert. Wir arbeiten mit dem Team zusammen, um die Grenzen des Modells und alle Ihnen bekannten Möglichkeiten zu verstehen und es so oft wie möglich zu nutzen, aber wir erweitern das Modell auch schrittweise.

Beispielsweise verfügt GPT-4 jetzt über visuelle Erkennungsfunktionen, und Sie (die von Ihnen verwendete Version) haben diese Funktion nicht gestartet, da die letzten Arbeiten noch nicht abgeschlossen sind. Aber bald werden wir das erreichen. Ich denke, das beantwortet Ihre Frage, vielleicht nicht allzu weit in der Zukunft.

Frage 4: Meine Frage betrifft Superintelligenz und das Rokos-Basilisk-Dilemma. Können Sie näher erläutern, wie GPT und OpenAI mit diesem Dilemma umgehen?

*Hinweis: Rokos Basilisk ist eine Anspielung auf eine Online-Diskussion und ein Gedankenexperiment mit Hypothesen über zukünftige Superintelligenz. *

*Es wird gesagt, dass diese Superintelligenz durch Zeitreisen oder auf andere Weise Informationen erhalten kann, die Menschen ihr Schmerzen zufügen und diejenigen bestrafen, die nicht zu ihrer Entstehung beigetragen haben. Diese Anspielung wirft somit ein ethisches Dilemma auf: ob die Entwicklung der Superintelligenz jetzt unterstützt und gefördert werden sollte, um mögliche Strafen in der Zukunft zu vermeiden. *

Ilya:

Während Roccos Basilisk uns nicht besonders beschäftigt, machen wir uns auf jeden Fall große Sorgen um die Superintelligenz.

Wahrscheinlich versteht nicht jeder, nicht einmal jeder im Publikum, was wir unter Superintelligenz verstehen.

Was wir meinen, ist die Möglichkeit, eines Tages einen Computer zu bauen, einen Cluster von Computern in Form von GPUs, der intelligenter ist als jeder andere und in der Lage ist, Wissenschaft und Forschung schneller zu betreiben als große Teams erfahrener Wissenschaftler und Ingenieure. Ingenieursarbeit .

Es ist verrückt und wird große Auswirkungen haben.

Es kann die nächste Version des KI-Systems entwerfen und eine sehr leistungsstarke KI aufbauen. Unser Standpunkt ist also, dass Superintelligenz weitreichende Auswirkungen hat, sie kann sehr positive Auswirkungen haben, aber sie ist auch sehr gefährlich, und wir müssen damit vorsichtig sein. **

Hier setzt der von Ihnen erwähnte Ansatz der IAEA (Internationale Atomenergiebehörde) für sehr fortschrittliche Spitzensysteme und Superintelligenz in der Zukunft an. Wir müssen viel Forschung betreiben, um die Kraft einer Superintelligenz so zu nutzen, dass sie unseren Erwartungen entspricht, zu unserem Nutzen und zum Nutzen der Menschheit.

Dies ist unsere Position zur Superintelligenz, der ultimativen Superintelligenz-Herausforderung, vor der die Menschheit steht.

Wenn man auf die Evolutionsgeschichte des Menschen zurückblickt, tauchte vor etwa 4 Milliarden Jahren ein Einzelzellreplikator auf. Dann entstand im Laufe von Milliarden von Jahren eine Vielzahl unterschiedlicher einzelliger Organismen. Vor etwa einer Milliarde Jahren begann die Entstehung vielzelligen Lebens. Vor Hunderten Millionen Jahren erschienen Reptilien auf der Erde. Säugetiere erschienen vor etwa 60 Millionen Jahren. Vor etwa einer Million Jahren tauchten Primaten auf, gefolgt von der Entstehung des Homo sapiens. 10.000 Jahre später erschien die Schrift. Dann kamen die Agrarrevolution, die industrielle Revolution und die technologische Revolution. Jetzt haben wir endlich AGI, das Finale der Superintelligenz und unsere ultimative Herausforderung.

Frage 5: Ich studiere Informatik und stehe kurz vor meinem Abschluss. Ich frage mich, ob mir das Studium der Informatik in den nächsten 10-15 Jahren einen guten Job verschaffen wird?

Sich selbst:

Ich denke, dass es ohnehin wertvoll ist, Informatik zu studieren.

Obwohl ich selbst kaum Code schreibe**, halte ich das Informatikstudium für eines der besten Dinge, die ich je gemacht habe. Dadurch habe ich gelernt, Probleme zu denken und zu lösen – Fähigkeiten, die in jedem Bereich sehr nützlich sind. **

Auch wenn der Job eines Computerprogrammierers in 10 bis 15 Jahren anders aussehen wird, ist das Erlernen des Lernens eine der wichtigsten Fähigkeiten, einschließlich des schnellen Erlernens neuer Dinge, des Antizipierens zukünftiger Trends, der Anpassungsfähigkeit und Belastbarkeit sowie des Verständnisses für die Bedürfnisse und Vorgehensweisen anderer um nützlich zu sein.

Es steht also außer Frage, dass sich die Art der Arbeit ändern wird, aber ich kann mir keine Welt vorstellen, in der sich Menschen nicht die Zeit nehmen, etwas zu tun, das für andere einen Mehrwert und alle damit verbundenen Vorteile schafft. Vielleicht wird es uns in Zukunft darum gehen, wer die coolere Galaxie hat, aber bestimmte gute Dinge (wie die Wertschöpfung) werden sich nicht ändern.

Frage 6: Sie schreiben Geschichte. Wie möchten Sie, dass sich die Geschichte an Sie erinnert?

Ilya:

Ich meine, auf die bestmögliche Art und Weise.