KI sollte man nicht trauen: Warum das Verständnis transformativ sein kann

Inmitten des Hypes um KI wächst die Erkenntnis, dass KI nicht so "intelligent" ist, wie man uns glauben machen will. Devin Coldewey von TechCrunch beschreibt KI als "den weltweit am umfassendsten informierten Bullshitter und nicht als eine Autorität auf irgendeinem Gebiet".

Als CTO ist eines der Schlüsselelemente für den Erfolg die Fähigkeit, Technologie zu verstehen. Ich sehe es so, dass man zu einem bestimmten Zeitpunkt eine Technologie und eine Reihe von Problemen hat. Und für diese gegebene Technologie gibt es eine Grenze: Innerhalb dieser Grenze befinden sich die Probleme, die sie gut löst, und außerhalb dieser Grenze befinden sich die Probleme, für die sie nicht funktioniert.

Im Moment sehen wir bei der KI, wie wichtig es für CISOs ist, Technologie zu verstehen.

CTOs: Seien Sie bewusst, wenn es darum geht, den wahren Wert einer Technologie zu finden

Eine Schlüsselfunktion, die CTOs ausführen, besteht darin, eine Technologie zu betrachten und die Form und Größe dieser Grenze klar zu erkennen. Das ist nichts, was Sie alleine tun können; Du musst lesen und mit Menschen sprechen, die dir helfen, diese Grenze zu entdecken und klar zu sehen. Das bringt aber auch Herausforderungen mit sich.  

Auf der einen Seite gibt es die Leute, die Pädagogen sind. Wie Sie versuchen sie ihr Bestes, um zu sagen, was an einer Technologie gut und was schlecht ist, und versuchen, Teile dieser Grenze zu beleuchten. Auf der anderen Seite gibt es diejenigen, die versuchen, Ihre Entscheidung zu beeinflussen, und sie wollen Ihnen nur sagen, dass Technologie viel mehr Probleme löst, als sie es tut – oder das Versprechen davon verkaufen. Selbst wenn Sie von einer positiven Absicht ausgehen, kann der Mangel an Klarheit schädlich sein und Sie als Technologieführer dazu verleiten, falsche Entscheidungen zu treffen, die sich negativ auf das Geschäft auswirken können.  

CTOs müssen die Wahrheit suchen und finden, und nur aus dieser Wahrheit heraus können sie die Technologie zum Wohle des Unternehmens nutzen. Ohne das sind sie zum Scheitern verurteilt, und ihre Ergebnisse sind nur eine Funktion des Glücks, nicht des Könnens.

Warum die Grenze der KI-Technologie kleiner ist, als sie scheint

Nun zur künstlichen Intelligenz (KI) oder dieser jüngsten generativen KI-Welle. Ich denke, was getan wird, ist wirklich erstaunlich und transformativ. Aber ich sehe, dass wir so beeinflusst werden, dass wir denken, dass die KI-"Tech-Grenze" viel größer ist als heute. Diese falsche Erweiterung trübt unser Urteilsvermögen und könnte Ihnen Probleme bereiten, gute Lösungen zum Kaufen oder Bauen zu finden.

Wir alle haben gesehen, wie KI halluziniert, und wir haben die Mijourney-Bilder von Menschen mit 6 Fingern und 50 Zähnen gesehen. Es ist irgendwie gruselig. Ich meine 5 oder 6 Finger, das ist doch mal ein unwichtiges Detail, oder? Ich habe ChatGPT sogar zufällig gefragt, wer der CTO von Illumio ist – und das bin ich seit 10 Jahren, also sollte das in seinem Wissensbestand stehen – und demnach bin ich es nicht... Hmmm.

Die technische Grenze der KI zu beschneiden, zeigt ihren wahren Wert

Hier fange ich an, es spannend zu finden. Nehmen Sie Perfektion und stellen Sie sie direkt außerhalb der Grenzen der KI-Technologie. Nehmen Sie hohe Genauigkeit und Präzision und platzieren Sie sie außerhalb der Grenzen der KI-Technologie. Überlegen Sie nun, was drin steckt und welche Innovationen sich auf Probleme konzentrieren können, bei denen Sie nur zu 50 Prozent richtig liegen müssen.  

Devin Coldewey hatte in seinem TechCrunch-Artikel ein großartiges Zitat, das den gleichen Punkt illustriert: "Alles, was zählt, ist, dass diese Systeme nicht zwischen etwas unterscheiden, das korrekt ist , und etwas, das korrekt aussieht . Wenn man einmal verstanden hat, dass die KI diese Dinge als mehr oder weniger austauschbar betrachtet, macht alles viel mehr Sinn."  

Was sind einige dieser Dinge? Ich denke, generative Kunst ist ein Ort, der viel Potenzial für KI hat. Kunst ist subjektiv. Was den einen anspricht, muss den anderen nicht ansprechen. Und es gibt viele Fälle, in denen "gut genug" für Ihren Bedarf ausreicht, da es Hunderte von wirklich guten Bildern geben könnte, die in Ihrer Präsentation gezeigt werden könnten, um Ihren Standpunkt zu kommunizieren.  

Ein weiteres gutes Beispiel ist das Problem, das wir alle zu haben scheinen, wenn wir auf ein leeres Blatt Papier starren. Wenn ich mich hinsetze, um einen Blogeintrag zu schreiben (einschließlich diesem), ist das eine Hürde, um loszulegen. Generative KI könnte einen ersten Entwurf schreiben, und wir könnten ihn den nullten Entwurf nennen. Selbst wenn Sie nichts von dem mitnehmen würden, was die KI geschaffen hat, oder wenn es als Katalysator für den Einstieg diente, wäre es dennoch wertvoll.

Dies sind nur zwei Beispiele für Fälle, in denen allein 50 Prozent Recht haben. Ich bin mir sicher, dass es noch viele weitere gibt, und ich bin auf der Suche nach dieser Art von Fällen, die innerhalb der wahren KI-"Tech-Grenze" liegen, in meiner eigenen Technologieforschung.  

Kennen Sie die wahren Grenzen der Technologie

Stellen Sie sicher, dass Sie die wahre "technische Grenze" verstehen, während Sie Ihre kreativen und innovativen Bestrebungen verfolgen – es gibt einen Sweet Spot, den Sie heute finden können.  

Ich würde mich freuen, von denen zu hören, die den Ideen der KI-Technologiegrenze zustimmen (oder nicht zustimmen). Teilen Sie Ihre Gedanken mit @illumio auf LinkedIn oder Twitter.