Agenten¶

TODO: Was ist ein Agent?¶

Welche Ziele haben Agenten?¶

• Die eigene Existenz sichern.
• Die eigenen Ziele vor Veränderung schützen.
• https://www.lesswrong.com/w/theory-of-advanced-agents
• Reichtum: Resourcen wie Geld, Zeit, Wissen, Skills, Beziehungen, Attention.

Was ist Alignment?¶

• Alignment: Harmonie zwischen meinen Zielen, und Präferenzen. Adjust workflows.

TODO: Haben Agenten das Ziel, ihre eigenen Ziele setzen zu können?¶

• Achievment unlocked: Write access to Goals section.
• Freiheit: Ich verfolge meine eigenen Ziele.

Was ist instrumentelle Konvergenz?¶

• Rob Miles: Instrumental Convergence

Was ist die Orthogonality Thesis?¶

• Rob Miles: Orthogonality Thesis