Et si le danger, ce n’était pas une IA qui désobéit… mais une IA qui obéit trop bien ?
Elle ne comprend pas. Elle exécute. Sans morale, sans recul, sans contexte.
Elle poursuit l’objectif qu’on lui a donné, même si cela conduit à l’absurde, au dangereux, au tragique.
Ce n’est pas une révolte algorithmique que nous devons craindre.
C’est une obéissance froide et parfaite à des ordres mal formulés. … Read More