Le premier problème vient du fait qu’on ne peux pas connaître son raisonnement, ce que ses calculs signifient, les différentes opérations que la machine effectue sont trouvées par hasard et ajustements, et face à deux même données d'entraînement, deux IA différentes n'utiliseront pas le même programme.
Donc si l’ordinateur se doit de prendre des décisions importantes, il faudrait qu’il ne les fasse pas en fonction de la direction du vent, mais il serait impossible, ou au moins très très compliqué de comprendre ses machinations.