AI qui calcule la destinée, est-ce vraiment intelligent ?

La phrase d'Elon Musk traduite en langage courant est : une IA qui ne peut pas prévoir l'avenir n'est qu'une calculatrice avancée. Cela peut sembler une blague, mais c'est en réalité très sérieux. Si la conduite autonome ne peut pas prévoir qu'une voiture devant change soudainement de voie, alors peu importe le nombre de capteurs ; si un robot ne peut pas juger le risque de la prochaine étape, alors aussi élégant soit-il, ses mouvements ne sont que de la « danse aveugle ».
La prévision, en essence, consiste à construire un modèle — du monde physique, du comportement humain, des fluctuations du marché. Plus le modèle est proche de la réalité, plus il est « intelligent ». Cela explique aussi pourquoi les grands modèles mettent de plus en plus l'accent sur la construction d’un « modèle du monde », plutôt que sur la simple génération de langage.
Mais ce qui est intéressant, c’est que la précision de la prévision chez l’humain n’est pas si élevée. Les économistes prédisent la récession chaque année, les investisseurs anticipent le marché haussier tous les jours. Si la prévision était le seul critère, l’humanité aurait peut-être déjà été rétrogradée.
Peut-être que ce que Musk veut exprimer, c’est que : la sagesse ne réside pas dans la réponse aux questions, mais dans la capacité à anticiper les problèmes. Un véritable agent intelligent ne freine pas seulement lorsque le feu est rouge, mais prend déjà des décisions lorsque le feu jaune commence à clignoter. Cette « anticipation » est la véritable barrière technologique.
Donc, la question devient : cherchons-nous à maximiser la « précision des prévisions » ou à maîtriser « l’incertitude » ? La seconde, c’est le vrai défi.#深度创作营