Wenn Computer lügen lernen

Aleksandra Sowa19.11.2015Wirtschaft

„Irren ist menschlich – aber wer richtigen Mist bauen will, braucht einen Computer“, heißt einer dieser witzigen Sprüche, die man sich auf ein T-Shirt drucken lassen kann.

Seit Beginn des VW-Abgaswertemanipulationsskandals lacht nur keiner mehr darüber. Die Ingenieure des Unternehmens bestätigten, die Manipulationen vorgenommen zu haben, sonst wären ihre Zielvorgaben nicht erreichbar gewesen. Seit sechs Jahren konnte der Boardcomputer des Volkswagenfahrzeugs erkennen, wann der Wagen getestet wurde, und die Arbeit des Motors so umstellen, dass die gemessenen Abgaswerte unter den regulatorischen Vorgaben lagen. Das heißt deutlich niedriger als beim Normalbetrieb – so um den Faktor 40.

Irren ist menschlich

Diese Art Manipulationsprogramme ist als „cheating software“ bekannt. Weder ist die Idee neu noch ist sie besonders originell. VW ist nicht die erste Firma, die ihre Software manipuliert, und ganz bestimmt bleibt sie nicht die letzte. Ganz sicher ist sie doch das erste Unternehmen, das Manipulation auf einer Massenskala betrieb – und dabei aufflog.
Die Vernetzung der Komponenten, das Internet der Dinge und die Digitalisierung allmählich aller Funktionen und Prozesse eröffnen den Manipulationen neue, schier unbegrenzte Möglichkeiten. „Computers allow people to cheat in ways that are new“, “konstatiert”:http://edition.cnn.com/2015/09/28/opinions/schneier-vw-cheating-software/index.html der US-amerikanische Sicherheitsguru, Bruce Schneier. Sein neues Buch, “Data and Goliath”:http://www.amazon.de/Data-Goliath-Battles-Capture-Control/dp/0393244814/ref=sr_1_sc_1?ie=UTF8&qid=1447613009&sr=8-1-spell&keywords=data+andgoliath, wurde von Amazon direkt in zwei Kategorien (nonfiction und business) zum “Buch des Jahres 2015”:https://www.schneier.com/blog/archives/2015/11/amazon_chooses_.html gekürt. Die neue Art der Manipulation sei raffinierter, subtiler und sehr schwer zu entdecken, meint Schneier. Alle diese „smarten“ Dinge, die demnächst miteinander über das Internet kommunizieren werden – und es teilweise heute schon tun –, entziehen sich offenbar der Kontrolle. Denn nicht nur die Regulierer und Autofahrer wurden über Jahre hinweg von VW getäuscht. Offenbar wurde die Manipulation auch nicht entlang des unternehmensinternen Kontrollsystems, von Programmfreigaben über Penetrations- und Stresstests der Software im Test- und Produktivbetrieb bis hin zu den Prüfungen durch die interne Revision, entdeckt.

Keiner prüft mehr genau

Seit den Bilanzskandalen im Jahr 2002 ist das Vorhandensein eines effektiven internen Kontrollsystem in jedem an der US-Börse notierten Unternehmen ein Muss. Gemäß “Aktiengesetz”:http://www.gesetze-im-internet.de/aktg/__91.html auch für Aktiengesellschaften in Deutschland. Die Vorgaben beziehen sich zwar hauptsächlich auf die Finanzkontrollen. Doch seitdem die Rechnungslegung fast vollständig über die IT-Systeme abgewickelt wird, sind Kontrollen in der IT ein fester Bestandteil des internen Kontrollsystems (man sollte sich nur das inzwischen zum Monumentalwerk ausgewachsene Kontrollrahmenwerk Control Objectives for Information and Related Technology, “COBIT”:http://www.isaca.org/cobit/pages/default.aspx, anschauen).

Es ist die Aufgabe der internen Revision, die Ordnungsmäßigkeit und die Wirksamkeit der Kontrollen in einem Unternehmen zu bewerten und zu beurteilen. Es obliegt allerdings dem Management zu entscheiden, welche Systeme als „rechnungslegungsrelevant“ gelten (und für welche demnach die regulatorischen Vorgaben, wie in Deutschland “GoBS”:http://www.bundesfinanzministerium.de/Content/DE/Downloads/BMF_Schreiben/Weitere_Steuerthemen/Betriebspruefung/015.pdf oder “OPDV”:http://www.siz.de/beratung/it-zertifizierung-nach-opdv.html, gelten) – und welche nicht. Spätestens nachdem VW die “Milliardenstrafe”:http://www.rp-online.de/leben/auto/news/abgas-skandal-vw-droht-18-milliarden-strafe-winterkorn-unter-druck-aid-1.5411092 an die USA, Australien, Deutschland und weitere Länder zahlen darf, hat sich die Frage der „Rechnungslegungsrelevanz“ der Automobilsoftware vermutlich von alleine geklärt.

Eine aktuelle Anfrage an die Bundesregierung lässt die Vermutung unwirksamer Kontrollen zu. Abschlussprüfer von VW sei laut Kleiner Anfrage der Fraktion Die Linke (BT-Drs. 18/6510) die Wirtschaftsprüfungsgesellschaft PricewaterhouseCoopers. PwC bestätigte auch den Jahresabschluss, den Konzernabschluss sowie den Lagebericht 2014. Zusätzlich analysierte PwC das Risikomanagementkontrollsystem – und das interne Kontrollsystem. „Die Aufgabe des Abschlussprüfers im Rahmen der Abschlussprüfung beinhaltet nicht nur die Feststellung der Richtigkeit und der Ordnungsmäßigkeit des Zahlenwerks; die Vollständigkeit aller Bilanzposten – Verbindlichkeiten und Rückstellungen – ist ebenso sicher zu bewerten, um ein uneingeschränktes Testat zu erteilen“, beobachteten richtig die Abgeordneten und fragten sich, warum externe Prüfer dem VW-Konzern ein solches Testat ausgestellt haben, obwohl sie bereits im Jahr 2014 von den US-Behörden über den Verdacht der Abgaswertemanipulation informiert worden waren und das Unternehmen entsprechende Rückstellung hätte bilden müssen.

Der prognostizierte finanzielle Schaden für VW aus den Verstößen beläuft sich aktuell auf den Wert zwischen zehn und 50 Milliarden Euro und stellt im Hinblick auf die finanzielle Dimension ein wesentliches Risiko dar, das den Abschlussprüfern auffallen sollte. Doch das uneingeschränkte PwC-Testat für das Jahr 2014 wurde erteilt – und auch später nicht zurückgezogen. „Hier wäre u. a. dezidiert zu prüfen, ob die PwC die Berufspflichten für Wirtschaftsprüfer verletzt hat, da vom VW-Konzern nicht ausreichend Rückstellungen gebildet und die Risiken der Gesetzesverstöße im Lagebericht 2014 nicht umfassend dargestellt wurden“, konstatieren die Abgeordneten.

Digitale Dystopie

Um Ideen dafür zu entwickeln, wie Software zu Profitzwecken, um Regulierungsvorgaben zu umgehen – oder einfach um der Konkurrenz zu schaden und sie zu sabotieren –, benötigt man kein kriminelles Hirn. Die Geheimdienste wie NSA oder sein chinesisches Pendant machen es vor, wie mit Software- und Hardwaremanipulationen Abhör- und Spionageziele verfolgt werden können. Über die Manipulation der in China produzierten Router wurde schon vor einigen Jahren berichtet. Ebenso vom Einbau der sogenannten Back Doors in Betriebssysteme und Software durch die Geheimdienste.

Gierige Kapitalisten könnten die „smarte“ neue Welt der vernetzten Dinge dazu nutzen, die Käufer darüber zu täuschen, dass die Lebensmittel in niedrigeren Temperaturen gehalten wurden, als tatsächlich geschehen. Sie könnten den Energieverbrauch der Glühbirnen manipulieren, um die Behörden über den in Wirklichkeit hohen Energieverbrauch dieser hinwegzutäuschen. Oder die Wahlautomaten richtig funktionieren zu lassen, bis auf einen bestimmten Novembertag, an welchem sie dann einige abgegebene Stimmen von einer Partei zu einer anderen „umschichten“ würden, zählt Bruce Schneier auf. Stromanbieter könnten die Einstellungen der smarten Waschmaschinen abfragen und nachts, wenn die Waschprogramme starten, die Strompreise erhöhen. Im Supermarkt könnten die digitalen Preisanzeigen ihre Werte in den Stoßzeiten und/oder an Wochenenden nach oben „optimieren“.

Zukunft? Realität.

Bereits heute sollten in Betrieben Arbeitszeiterfassungsautomaten eingesetzt werden, die – unabhängig von der mit einer Mitarbeiterkarte gebuchten Kommen- und Gehen-Zeit – im System immer nur die vorschriftsmäßigen acht Arbeitsstunden pro Mitarbeiter erfassen. Der Einsatz von Zeiterfassungssoftware, die automatisch nach sechs Stunden Arbeitszeit eine halbe Stunde Pause abbucht und nach neun Stunden eine weitere Viertelstunde – und das unabhängig davon, ob der Mitarbeiter diese Pausen macht oder nicht – ist in Deutschland nicht nur verbreitet, sondern auch legal.

Doch nicht nur das Panorama der Manipulationsmöglichkeiten wird durch den Einsatz von vernetzten Computern erweitert. Auch die Möglichkeiten, diese Manipulationen zu verbergen, werden zunehmend besser und raffinierter. Nicht nur, weil es schwieriger sein wird, eine Manipulation aufzudecken. Bruce Schneier prognostiziert, dass vorsätzliche Manipulationen künftig im Fall der Aufdeckung rasch dem Zufall zugeschrieben werden und auf Fehler in komplexer Software, unentdeckte Angriffe externer Hacker, Übertragungsfehler und Softwarebugs abgeschoben werden. Das Gegenteil, nämlich eine bewusste Täuschung, zu beweisen, dürfte den Regulierern sehr schwer fallen. Und für die Firmen könnte es ggf. günstiger sein, sich dem Vorwurf einer unwirksamen Kontrolle oder nicht „dem Stand der Technik“ genügenden Sicherheitsmaßnahme zu stellen, als sich einer vorsätzlichen Manipulation schuldig gemacht zu haben. Einer Milliardenstrafe an die US-Behörden stünde da gegebenenfalls „nur“ ein geringes Bußgeld an deutsche Behörden gegenüber.
Der „Täter“ ist dann schnell gefunden: der Algorithmus. Schon heute haben viele Menschen Angst vor Maschinen, die für sie Entscheidungen treffen sollen. In der Politik werden daher Konzepte wie „TÜV“ für die Algorithmen und Software diskutiert. Die Zertifizierung sollte helfen zu gewährleisten, dass die Software das tut, wofür sie programmiert wurde und die künstliche Intelligenz vom Ausarten bewahren.

Dabei vergisst man oft, dass Algorithmen lediglich „zielgerichtete Implementierungen menschlichen Willens“ sind, woran Frank Rieger vom Chaos Computer Club kürzlich in Köln erinnerte. Es ist nicht der Computer, der böse Absichten verfolgt, die Weltherrschaft anstrebt oder die Luft mit Abgasen verpestet. Mit den Worten des deutschen Chemieprofessor, Hans-Jürgen Quadbeck-Seeger, ausgedrückt: „Ein Computer würde erst dann menschenähnlich, wenn er anfinge, zu lügen.“

KOMMENTARE

MEIST KOMMENTIERT

Wir dürfen uns von der AfD nicht die Demokratie zerstören lassen

Es gibt sie noch, die besonnenen Köpfe in der Politik. Wohltuend unaufgeregt das Interview mit Thüringens früherem Ministerpräsidenten Bernhard Vogel (CDU), Solche besonnenen Stimmen, die die Dinge vom Ende her durchdenken und nicht nur flotte Parolen oder moralische Dauerempörung im Programm h

Deutschland ist über Nacht zu einer offenen Gesinnungsdiktatur geworden

Man wird in der Geschichte wohl kein Beispiel finden, welches veranschaulicht, wie in einer Demokratie von Politik und Medien so offen ein urdemokratischer Prozess dämonisiert und ein gewählter Ministerpräsident einer solchen Hasskampagne von Politikern und Medien ausgesetzt wurde, dass er und se

Mit der verbrecherischen US-Oligarchie gibt es keinen Frieden und keinen „Klimaschutz“

Mit der verbrecherischen US-Oligarchie gibt es keinen Frieden und keinen „Klimaschutz“. Wenn die Grünen wirklich Frieden und Klimaschutz wollen, dann müssen sie der skrupellosen US-Oligarchie, die die halbe Welt terrorisiert, die kalte Schulter zeigen. Europa muss sich aus der Bevormundung der

Der Rundfunkbeitrag ist einfach nicht mehr zeitgemäß

Die konservative Basisbewegung innerhalb der CDU/CSU fordert die Landesregierungen auf, die Stimmung in der Bevölkerung ernst zu nehmen und umgehend Kostenschnitte für die öffentlich-rechtlichen Medienanstalten zu beschließen.

Regierungsbildung in Thüringen: Dies ist ein bitterer Tag für die Demokratie

Dieses Ergebnis ist ein Dammbruch. Die Wahl des Thüringer Ministerpräsidenten hat gezeigt, dass CDU und FDP den Wählerauftrag nicht verstanden haben. Gemeinsam mit Stimmen der AfD haben sie die Wiederwahl Bodo Ramelows verhindert. FDP und CDU werden damit zum Steigbügelhalter der rechtsextremen

Sich mit der AfD wählen zu lassen, ist ein inakzeptabler Dammbruch

Es ist ein inakzeptabler Dammbruch, sich mit dem Stimmen der AfD und Herrn Höckes wählen lassen, so Ministerpräsident Bayerns Markus Söder.

Mobile Sliding Menu