Il ne faut pas faire confiance à l'IA : Pourquoi comprendre cela peut être transformateur

Au milieu du battage médiatique autour de l'IA, on se rend de plus en plus compte que l'IA n'est pas aussi "intelligente" qu'on nous l'a fait croire. Devin Coldewey, de TechCrunch, décrit l'IA comme étant "le baratineur le mieux informé du monde plutôt qu'une autorité en la matière."

En tant que directeur technique, l'un des éléments clés de la réussite est la capacité à comprendre la technologie. Selon moi, à un moment donné, vous disposez d'une technologie et d'un ensemble de problèmes. Et pour une technologie donnée, il existe une limite : à l'intérieur de cette limite se trouve l'ensemble des problèmes qu'elle résout bien, et à l'extérieur de cette limite se trouve l'ensemble des problèmes pour lesquels elle ne fonctionne pas.

En ce moment, avec l'IA, nous voyons à quel point il est important pour les RSSI de comprendre la technologie.

CTOs : Soyez attentifs à trouver la vraie valeur d'une technologie

L'une des principales fonctions des directeurs techniques consiste à examiner une technologie et à déterminer clairement la forme et la taille de cette frontière. Ce n'est pas quelque chose que vous pouvez faire seul ; vous devez lire et parler à des personnes qui vous aideront à découvrir et à voir clairement cette limite. Mais cela ne va pas sans difficultés.  

D'un côté, vous avez les éducateurs. Comme vous, ils font de leur mieux pour dire ce qu'il y a de bon et de mauvais dans une technologie et pour essayer de mettre en lumière certaines parties de cette frontière. D'autre part, il y a ceux qui essaient d'influencer votre décision et qui veulent simplement vous dire que la technologie résout beaucoup plus de problèmes qu'elle n'en résout - ou vous faire miroiter cette promesse. Même si vous partez d'une intention positive, le manque de clarté peut être préjudiciable et vous amener, en tant que responsable technologique, à prendre des décisions erronées qui pourraient avoir des conséquences négatives pour l'entreprise.  

Les directeurs techniques doivent chercher et trouver la vérité, et ce n'est qu'à partir de cette vérité qu'ils peuvent exploiter la technologie pour le bien de l'entreprise. Sans cela, ils sont condamnés, leurs résultats n'étant qu'une fonction de la chance et non de la compétence.

Pourquoi la frontière technologique de l'IA est-elle plus étroite qu'il n'y paraît ?

Venons-en maintenant à l'intelligence artificielle (IA), ou à cette récente vague d'IA générative. Je pense que ce qui est fait est vraiment étonnant et transformateur. Mais je constate que nous sommes influencés par l'idée que la "frontière technologique" de l'IA est beaucoup plus large qu'elle ne l'est aujourd'hui. Cette expansion incorrecte obscurcit notre jugement et pourrait vous poser des problèmes pour identifier les bonnes solutions à acheter ou à construire.

Nous avons tous vu des IA hallucinées, et nous avons vu les photos de Mijourney des personnes ayant 6 doigts et 50 dents. C'est un peu effrayant. Je veux dire 5 ou 6 doigts, ce n'est qu'un détail sans importance, n'est-ce pas ? J'ai même demandé à ChatGPT qui était le directeur technique d'Illumio - et je le suis depuis 10 ans, donc cela devrait faire partie de son corpus de connaissances - et d'après lui, je ne le suis pas... hmmm.

La réduction des frontières technologiques de l'IA révèle sa valeur réelle

C'est là que je commence à trouver cela passionnant. Prenez la perfection et placez-la carrément en dehors des limites de la technologie de l'IA. Prenez l'exactitude et la précision et placez-les en dehors des limites de la technologie de l'IA. Considérez maintenant ce qu'il y a à l'intérieur et quelles innovations peuvent se concentrer sur des problèmes pour lesquels vous ne devez avoir raison qu'à 50 %.  

Devin Coldewey, dans son article de TechCrunch, illustre bien ce point : "Tout ce qui compte, c'est que ces systèmes ne fassent pas la distinction entre quelque chose de correct et quelque chose qui a l'air correct. Une fois que vous comprenez que l'IA considère ces choses comme plus ou moins interchangeables, tout devient beaucoup plus logique".  

Quelles sont ces choses ? Je pense que l'art génératif est un domaine où l'IA a beaucoup de potentiel. L'art est subjectif. Ce qui parle à une personne ne parle pas à une autre. Et il arrive souvent que le terme "assez bon" suffise pour répondre à vos besoins, car il peut y avoir des centaines de très bonnes images qui pourraient être montrées dans votre présentation pour communiquer votre point de vue.  

Un autre bon exemple est le problème que nous semblons tous avoir en regardant une feuille blanche. Lorsque je m'assois pour écrire un article de blog (y compris celui-ci), j'ai du mal à me lancer. L'IA générative pourrait rédiger un premier projet, que nous pourrions appeler le "zeroth draft". Même si vous n'avez rien retiré de ce que l'IA a créé ou si elle a servi de catalyseur pour vous lancer, elle n'en reste pas moins précieuse.

Ce ne sont là que deux exemples de cas où le fait d'avoir raison à 50 % apporte une valeur ajoutée. Je suis sûr qu'il y en a beaucoup d'autres, et je suis à la recherche de ce genre de cas qui se situent à l'intérieur de la véritable "frontière technologique" de l'IA dans le cadre de ma propre exploration technologique.  

Connaître les véritables limites de la technologie

Assurez-vous de bien comprendre la véritable "frontière technologique" lorsque vous poursuivez vos projets créatifs et novateurs - il existe aujourd'hui un "sweet spot" à trouver.  

J'aimerais connaître le point de vue de ceux qui sont d'accord (ou non) sur les idées de la frontière technologique de l'IA. Partagez vos réflexions avec @illumio sur LinkedIn ou Twitter.