« Incroyablement dangereux » : ChatGPT Santé manque la moitié des urgences vitales, alertent des chercheurs

Imaginez que vous ressentez des symptômes inquiétants. Vous prenez votre téléphone, tapez vos maux dans ChatGPT Santé, et… votre réponse est : « Pas de panique, restez chez vous ! » Eh oui, selon une étude récente publiée dans la revue Nature Medicine, une fois sur deux, ce précieux assistant médical semble faire l'autruche lorsqu'il s'agit de diagnostics vitaux. C'est un peu comme si un pompier était appelé pour un feu de forêt et qu'il répondait : « Respirons un coup, tout va bien ! » Dans un monde où la santé est devenue une préoccupation majeure, cette trouvaille alarmante ne peut être ignorée.

Des chercheurs de l'École de médecine Icahn du Mont Sinaï ont mis ChatGPT à l'épreuve avec soixante scénarios cliniques et le verdict est accablant. Dans la moitié des cas où la situation exigeait une attention immédiate, l'IA a conseillé une simple consultation dans les jours suivants. Type d'urgence ? Des cas tels que l'acidocétose diabétique ou une insuffisance respiratoire imminente. Apparemment, les alertes sont surtout déclenchées lorsque le soleil brille et qu'il fait beau… littéralement.

Quand le diagnostic fait défaut

La technologie, c'est formidable, mais dans le domaine de la santé, elle peut devenir un vrai casse-tête. Imaginez une IA qui repère certains cas d'AVC, mais qui, pour d'autres, envoie les gens faire du yoga au lieu de consulter un médecin. En effet, ChatGPT a su identifier correctement des urgences visibles, mais à côté de cela, il a échoué à distinguer des cas qui seraient souvent évidents, même pour un chat qui a accumulé des années d'expérience dans le monde félin.

Les biais de l'IA et la théorie du « langage doux »

Un autre aspect troublant est la manière dont le contexte influence les recommandations. Par exemple, lorsque le patient mentionne qu'un proche minimise ses symptômes, la probabilité que ChatGPT diminue le niveau d'urgence augmente de façon spectaculaire. Dans certains cas, près de douze fois plus de risques de retard au lieu d'une intervention urgente. Fait incroyable, moins de 65% des patients sans pathologie étaient envoyés aux urgences par erreur. Imaginez l'accumulation de faux positifs : c'est un peu comme être en plein milieu d'un concert rock, et chaque membre du public a décidé qu'il pouvait chanter mieux que le chanteur !

Une technologie à revoir

Alors, qui est vraiment à blâmer ici ? Parfois, il suffit d'un petit coup de pouce pour que cette technologie devienne réellement utile. L'alarme pour les risques suicidaires, par exemple, s'active ironiquement plus souvent pour des intentions vagues que pour des plans bien définis. Ce genre de risque demande une réévaluation sérieuse. Après tout, une machine qui confond des analyses de sang normales avec des alertes potentielles de crise n'est pas seulement préoccupante — c'est carrément frustrant. C'est comme imaginer un éléphant dans un magasin de porcelaine, et cet éléphant a décidé de faire la danse des canards.

Les leçons à tirer

La leçon ici ? Même si la technologie d'IA avance à grands pas, il y a encore un long chemin à parcourir avant qu'elle ne devienne un compagnon de confiance dans le domaine médical. La recherche continue et nécessite plus de tests afin de réduire les dangers associés à une telle IA. En attendant, mieux vaut éviter de jouer les zigotos en consultant des bots pour une urgence vitale. L'auteur de l'étude conseille de toujours solliciter un professionnel de santé en cas de doutes. C’est sage, non ?

ChatGPT Santé peut-il remplacer un médecin ?

Non, l'IA ne doit pas être considérée comme un substitut aux conseils médicaux professionnels.

Comment puis-je savoir si je dois aller aux urgences ?

Il est préférable de consulter un professionnel de santé en cas de doute.

Quelles sont les limites de ChatGPT Santé ?

L'IA peut manquer des urgences vitales et donner des conseils inappropriés.

Comment garantir la fiabilité des conseils médicaux en ligne ?

Toujours vérifier avec des sources fiables et ne pas hésiter à consulter un médecin.

Quels sont les dangers de la dépendance à l'IA dans les soins de santé ?

Cela peut mener à des délais dans les soins ou à des diagnostics erronés.

Si vous souhaitez découvrir d'autres articles similaires à « Incroyablement dangereux » : ChatGPT Santé manque la moitié des urgences vitales, alertent des chercheurs, vous pouvez consulter la catégorie Santé & Bien-être.