„…algorithms do what you say, not what you meant.“
und da führt zu en paar recht amüsante Ergebnis, wovo es paar Biispiel im Artikel erwähnt sind:
https://www.wired.com/story/when-bots-teach-themselves-to-cheat