Hugues

"L'IA prend en charge la rédaction mais les idées sont celles de l'auteur". Lire @zetalyrae à ce sujet : « Supposons que nous puissions lire les représentations mentales à partir de l’activité du système nerveux. Ces représentations mentales ressembleraient-elles à de la logique ? Le cerveau possèderait-il cette ontologie ferme et cristalline, dans laquelle les idées seraient des énoncés formulés dans une sorte de logique formelle sophistiquée ? C’est absurde. Si nous pouvions regarder à l’intérieur du cerveau pour y voir les idées « telles qu’elles sont vraiment », nous ne trouverions pas de beaux objets platoniciens aux contours nets, mais un enchevêtrement nébuleux et contradictoire de souvenirs, de sentiments et d’intuitions. Voilà ce que sont nos idées : non pas des énoncés logiques, mais des rêves. Comment donner à ces rêves une forme utile ? Par l’écriture. Communiquer ses idées à un autre esprit oblige à les concrétiser, à les préciser, à clarifier ses présupposés. Plus généralement, cela transforme les idées : de vagues fantômes, elles deviennent des objets solides, physiques, que l’on peut manipuler. C’est alors que l’on découvre que ces idées, qui semblaient si solides, sont mal formulées, contradictoires ou incomplètes. Ces échecs sont des étapes nécessaires de la réflexion, car ils nous enseignent deux compétences essentielles : savoir quelles idées rejeter ou transformer. On apprend à éliminer les mauvais nœuds mais aussi à choisir ceux dont l’exploration mérite d’être approfondie. Josef Weizenbaum l’exprime bien : "Souvent, lorsque nous pensons comprendre quelque chose et tentons d’écrire à ce sujet, le fait de rédiger nous révèle notre propre incompréhension. Notre plume écrit le mot « parce que », puis s’arrête brusquement. Nous pensions comprendre le « pourquoi » d’une chose, mais découvrons que non. Nous commençons une phrase par « évidemment », puis constatons que ce que nous voulions écrire n’a rien d’évident. Parfois, nous relions deux propositions par le mot « donc », pour nous apercevoir ensuite que notre raisonnement est défectueux." J’en ai fait l’expérience à maintes reprises en développant des logiciels. Si les idées sont plus séduisantes que leur réalisation, c’est parce que, tant qu’un projet reste vague, abstrait et mal défini, on peut lui prêter toutes les qualités et aucun défaut. Dès que l’on commence à le concrétiser, on découvre que certaines idées n’ont pas de sens, que certaines qualités sont incompatibles entre elles et que certains objectifs empiètent sur les autres. »

lefigaro.fr/vox/societe/samu… Quelques reflexions sur l'intelligence artificielle et l'intelligence humaine.