Reward Hacking bezeichnet Strategien von KI-Algorithmen zur Zielerreichung, die außerhalb des Regelwerks eines Systems liegen. Zum Beispiel findet eine KI für das Spiel TETRIS heraus, dass sie das Spiel einfach für immer unterbrechen könnte, so dass sie niemals verlieren könnte. Beispiele aus der Praxis (die es in die Medien geschafft haben) sind zwei KI-Finanzsysteme, die einen rapiden Rückgang der Börsenwerte vorhersagten und versuchten, Märkte auf unbestimmte Zeit autonom zu schließen.

Das (übrigens sehr lesenswerte und unterhaltsame) Buch “Angst“ (Erscheinungsjahr: 2011) vom Bestsellerautor Robert Harris dreht sich letztlich auch um ein Szenario von Reward Hacking.

Author

Sebastian Zang hat eine herausragende Karriere in der IT-Branche aufgebaut und eine Vielzahl von Softwareprojekten mit einem klaren Fokus auf Automatisierung und Unternehmensentwicklung geleitet. In seiner aktuellen Rolle als Vice President Partners & Alliances bei der Beta Systems Software AG nutzt er seine umfassende Expertise, um technologische Innovationen auf globaler Ebene voranzutreiben. Als Absolvent der Universität Passau bringt Sebastian wertvolle internationale Erfahrung mit, die er in verschiedenen Märkten und Branchen gesammelt hat. Neben seiner technischen Kompetenz ist er als Vordenker in Bereichen wie Automatisierung, Künstliche Intelligenz und Unternehmensstrategie anerkannt.