Intelligente (Software-)Agenten: Eine neue Herausforderung für die Gesellschaft und unser Rechtssystem?

Digitale Technologien nehmen dem Menschen zunehmend Arbeit ab und treffen heute schon in vielen Bereichen Entscheidungen ohne menschliche Mitwirkung. In den Medien wird über selbst handelnde Roboter und selbstfahrende Auto berichtet. Softwareagenten erarbeiten heute schon ohne menschliche Mitwirkung Marktanalysen, optimieren Portfolios von Handelswaren, Kreditrisiken, die günstigsten Transaktionen im Währungshandel usw. Bei diesen Systemen handelte es sich bisher um Softwaresysteme, die eindeutig definierte Verhaltenseigenschaften besitzen. In jüngerer Zeit entstehen jedoch immer häufiger Systeme, die ihre Funktionalität dynamisch, also erst durch Interaktion, bspw. im Internet, zwischen ihren Teilsystemen entfalten. Dabei steht aufgrund der generellen Offenheit des Internet im Allgemeinen nicht vorneherein fest, wann diese Interaktionen stattfinden, welche anderen Systeme die Interaktionspartner sind, und v.a., welche technischen Eigenschaften diese Systeme aufweisen, wer sie entwickelt hat, wem sie gehören und wer sie in den Verkehr gebracht hat. Bei Einsatz derartiger Systeme, der Informatikterminologie folgend im Weiteren als Softwareagenten (kurz: Agenten) bezeichnet, können Interaktionsketten entstehen, die sich dem Nutzer, aber auch dem Betroffenen, in ihrer Gesamtheit wie ein vollständiges Softwaresystem darstellen. Im Gegensatz zu konventioneller Software besitzen diese jedoch eine nicht eindeutig vorherzusehende Individualität in ihrer konkreten Zusammensetzung und ihrem Verhalten. Zusätzlich weisen sie eine grundsätzliche Instabilität in ihrer Zusammensetzung und damit in ihrer Funktionalität auf. So wird ihr Verhalten nur bedingt von den expliziten Entwurfsentscheidungen der Entwickler der einzelnen Agenten bestimmt: im Zusammenwirken mehrerer Agenten tritt das Phänomen der Emergenz hinzu. Tritt der Mensch damit zunehmend seine Verantwortung für notwendige Entscheidungen in seinem gesellschaftlichen Umfeld an Agenten ab? Ersetzt der Agent den Menschen in den gesellschaftlichen Entscheidungsprozessen? Welche Bedeutung hat der Mensch zukünftig in einer solchen digitalen Welt? Wer trägt das Risiko, wenn, wie am 6. Mai 2010, ein Flash-Crash ein gewaltiger Kursverlust des Dow Jones an der Börse an New York dadurch verursachte wurde, dass sich die Algorithmen der Wall Street, die die Händlersysteme beherrschen, sich für einige Zeit unkontrolliert und unverständlich verhielten und einen Milliardenverlust bewirkten? Stimmt die Behauptung des Autors Schirrmacher, dass heute niemand mehr beantworten kann, was die Algorithmen in den Finanzmärkten wirklich tun? Werden die Handlungen und Entscheidungen von Menschen zunehmend von dem 'Wissen' und Entscheidungen von IT-Systemen abhängig, oder gar durch diese ersetzt? Die technischen Hintergründe und rechtlichen Implikationen sollen in diesem Beitrag aufgezeigt werden. [...]