Expertensysteme - was ist das?

,,Expertensystem ist eine schrecklich falsche Bezeichnung, da kaum etwas an ihnen expertenhaft ist."

0. Inhaltsverzeichnis

1. Einleitung

Dieser Text soll einen kritischen Überblick über die Expertensystemtechnologie vermitteln, wie er sich mir nach meinem Literaturstudium darstellt. Der Schwerpunkt liegt dabei nicht auf der Vermittlung technischer Details. Statt dessen sollen die Informationen vermittelt werden, die eine Einschätzung der Potentiale und Risiken dieser Technologie in gesellschaftlich relevanten Bereichen erlauben.

Der Text gliedert sich in drei Hauptteile. Im technischen Teil werden die Grundzüge der Technologie vermittelt.
Im wirtschaftlichen Teil wird die Verbreitung und wirtschaftliche Bedeutung von Expertensystemen besprochen.
Im Problemteil werden verschiedene Probleme und Kritiken an Expertensystemen angeführt.

2. Technischer Teil

2.1. Grundkonzepte und Aufbau

Nachdem im Expertensystembereich sehr unterschiedliche Definitionen von Expertensystem im Umlauf sind, erscheint es mir sinnvoll die differenzierende Definition aus [CB89] zu übernehmen.

Diese Definition trennt zwei unabhängige Aspekte, die für den Begriff Expertensystem wichtig sind, in zwei verschiedene Definitionen:

2.1.1. Anwendungsorientierte Definition

Ein Expertensystem ist ein Computerprogramm, das für ein spezifisches und genau abgegrenztes Teilgebiet gewisse Aufgaben eines Experten lösen kann bzw. ihn bei der Problemlösung unterstützt. Dazu wird das spezielle Wissen des Experten explizit in symbolischer Form in einem Programm oder als Datenmenge bzw. innerhalb einer Datenbank dargestellt.

2.1.2. Technische Definition

Expertensysteme sind Programme, die sich durch die Trennung der anwendungsspezifischen Methoden in der Wissensbank und der anwendungsunabhänigen Programmsteuerung durch die Inferenzmaschine zum Erzeugen logischer Schlußfolgerungen auszeichnet.
Für Expertensysteme soll dabei die Programmiergrundregel

Programm = Algorithmen + Datenstrukturen

durch die neue Regel

System = Inferenz - Logik + Methoden + Fakten

ersetzt werden ([CB89] S.26).

Für Expertensysteme typische Techniken sind dabei:

• Erschließung von Wissen
• Verwendung von vagen oder unsicheren Fakten
• Einbau von ,,Erklärungskomponenten", um Arbeitsweise und Ergebnis des Programms dem Benutzer auf Rückfrage hin erklären zu können.

Es ergeben sich natürlich auch zwei Fälle, wo diese beiden Definitionen nicht zusammenfallen. Zum einen kann ein System Aufgaben eines Experten übernehmen und doch auf traditionelle Art programmiert sein, zum Beispiel aus Effizienzgründen. Zum anderen kann es vorkommen, dass ein System in der Art der Expertensysteme programmiert ist, dass es jedoch für Aufgaben verwendet wird, für die bisher kein Experte eingesetzt wurde. Zum Beispiel in der Prozeßsteuerung oder in der Mustererkennung.

Ein typisches Expertenssystem ist ungefähr folgendermaßen aufgebaut (nach [Pup88]):



Bild 1



Im Umgang mit dem Expertensystem sind drei Personenrollen vorgesehen: Benutzer, Experte und Wissensingenieur (Bild 2). Verschiedene Rollen können aber auch in einer Person zusammenfallen. Zum Beispiel wenn der Experte selbst sein Wissen formalisiert und in das System eingibt.
Bild 2

Sind nur Wissenseinbringungskomponente, Dialogkomponente, Erklärungskomponente und Inferenzkomponente vorhanden, spricht man von einer (Expertensystem - ) Shell. Die Anwender können hier das genaue Wissensgebiet selbst festlegen indem sie die Wissensbank mit dem nötigen Wissen auffüllen.

Der Hauptvorteil der Trennung des Systems in Inferenzkomponente und Wissensbank ist der einer leichten Wartung und Änderbarkeit, da diese Systeme typischerweise eben in Gebieten mit sich änderndem und verfeinerndem Wissen eingesetzt werden.

Man kann Expertensyteme in verschiedene Typen einteilen:

• Analytische Expertensysteme
• Diagnose
• Klassifikation

• Synthetische Expertensysteme
• Planung
• Konfiguration
• Fertigungssteuerung

Ein typisches systematisches Vorgehen beim Erstellen eines Expertensystems kümmert sich nacheinander um die Teilgebiete:

• Wissenserwerb
• Wissensrepräsentation
• Inferenzmechanismus
• Benutzerschnittstelle

2.2. Wissenserwerb

Wissenserwerb ist der Versuch das Wissen eines Experten in einer implementationsunabhängigen, aber formalen Weise niederzulegen. Dies kann auf verschiedene Weise geschehen:

Indirekt:

Dazu muss der Wissensingenieur dem menschlichen Experten helfen, sein relevantes fachliches Wissen zu identifizieren, strukturieren und formalisieren. Der Wissensingenieur muss neben den fachlichen Fähigkeiten auch besondere soziale mitbringen. Andere Wissensquellen neben dem Experten können für den Wisseningenieur eigenes Fachwissen, sowie Fallstudien oder Bücher sein.

Direkt:

Der Experte formalisiert sein Wissen selbst. Dazu muss das Expertensystem eine leicht bedienbare Wissenserwerbskomponente haben.

Automatisch:

Das Expertensystem extrahiert sein Fachwissen selbständig aus der verfügbaren Literatur und auf Falldatenbanken. Diese Technik ist im Moment reiner Forschungsgegenstand.

Zum Wissen eines Experten können ganz verschiedene Dinge gehören, wie zum Beispiel Fakten, Überzeugungen, Methoden, Heuristiken und nicht zuletzt Problemlösungswissen (globale Strategien, Metawissen). Ein Phasenplan zum Wissenserwerb sieht folgendermaßen aus:

• Identifikation :

Ein Pflichtenheft mit organisatorischer Umgebung und Anforderungen an das Expertensystem wird erstellt.

• Konzeptualisierung

Der Grobentwurf und der zu betrachtende Realitätsausschnitt wird festgelegt.

• Formalisierung

Aufbereitung in eine dem verwendeten Rechnersystem und der zur Anwendung kommenden Shell verständliche Form.

2.3. Wissensrepräsentation

Die Wissenrepräsentation hat eine natürliche & effiziente Darstellung des "Wissens" zum Ziel. Unabhänging von der nicht ganz klaren Bedeutung von natürlich in diesem Zusammenhang ist klar, dass diese Bedingungen eventuell in einen Konflikt zueinander treten können.
Es gibt deklarative Repräsentationen. (Logik, Semantische - Netze) und prozedurale Repräsentationen (Regelsysteme)

Methoden im Ãœberblick

• Logikkalküle
• Regelsysteme
• Semantische Netze
• Frames
• KI Programmiersprachen

Diese Methoden werden auch gemischt verwendet.

2.4. Inferenzmechanismus

Inferenz heißt allgemein, aus vorhandenem Wissen neues zu erschließen. Dabei können die Schlußverfahren bzw. das Wissen auch vage und unsicher sein.

Der verwendete Inferenzmechnismus ist repräsentationsabhänig. Im Bereich logischer Repräsentationen zum Beispiel können verschiedene Deduktionsverfahren verwendet werden, die aus dem Bereich des mathematischen Beweisens bekannt sind.

Bei regelbasierten Repräsentationen ist eine der Hauptfragen ob die Regeln vorwärts - oder rückwärtsverkettet bearbeitet werden. Eine Vorwärtsverkettung errechnet zuerst alle Schlüsse, die sich aus der Wissensbank zusammen mit den fallspezifischen Fakten ergeben. Rückwärtsverkettung geht von einer Endhypothese aus und versucht Regeln zu finden, die diese Hypothese aus den bekannten Regeln herleiten. Vorwärtsverkettung ist vorteilhaft, wenn alle Daten von Anfang an vorhanden sind (z.B. Konstruktion) bzw. wenn auf neu ankommende Daten reagiert werden muss (z.B. Prozeßüberwachung).
Rückwärtsverkettung hat Vorteile, wenn nur eine kleine Zahl von Endhypothesen vorhanden ist wie z.B. bei manchen Diagnose - und Klassifikationsaufgaben. Diese Methoden können auch kombiniert werden.

2.5. Benutzerschnittstelle

Die Benutzerschnittstelle muss mit zwei Anwendersichten konstruiert werden: Zum einen die Sicht für den Experten bzw. Wissensingenieur beim Aufbau und der Wartung der Wissensbank, zum anderen die Sicht des Nutzers in der Anwendung des Systems.

2.5.1. Experte / Wissensingenieur - System

Für die Eingabe von Wissen sind zum Beispiel Regeleditoren üblich, oder die Implementation von formalen Sprachen zur Beschreibung von Regeln und Fakten. Als Forschungsgegenstand gibt es Versuche natürlichsprachlich - z.B. aus Texten - Wissen in das System zu übertragen. Ein anderer Forschungsgegenstand sind sogenannte lernende Systeme, die zumeist Regeln aus Beispielen selbständig extrahieren können sollen.

Ein wichtiger Aspekt des Wissenserwerbs ist Sinnfälligkeitsprüfung, da neues Wissen mit dem alten in Widerspruch treten kann und immer wieder Seiteneffekte zum Beispiel durch neue, geänderte oder entfernte Regeln auftreten können. Es gibt noch wenig Methoden die diese Problematik wirklich fest in den Griff bekommen.

2.5.2. Benutzer - System

Die Schnittstelle Benutzersystem ist eine Dialogkomponente zur Problemformulierung, für Rückfragen des Systems, für Fragen des Benutzers über den Lösungsweg und schließlich zur Ergebnisausgabe.
Angestrebt wird dabei von vielen die möglichst durchgängige Verwendung von natürlicher Sprache. Beim jetzigen Stand der Technik ist dies jedoch reiner Forschungsgegenstand.

Die Ergebnisdarstellung kann dabei auch grafisch sein. Wichtig ist dabei eventuell die Unterdrückung von Details, also eine Art Ergebnisabstraktion.

Die Erklärungskomponente liefert als Antwort zumeist eine Art Protokoll der Inferenzschritte. Dieses Protokoll wird oft noch aus Gründen der Verständlichkeit weiter aufbereitet, da das einfache Mitschreiben der Inferenzschritte für den Benutzer nicht oder nur sehr schwer verständlich ist. Diese Komponente sollte optimalerweise immer zugänglich sein.
Man kann der Erklärungskomponente zumeist zwei Typen von Fragen stellen: Wie - Fragen (Wie kommt es zu diesem abgeleiteten Faktum / Schluß) und Warum - Fragen (Warum wird diese Zwischenfrage gestellt).

2.6. Entwurf

Beim Entwurf eines Systems stellen sich nachdem man über das zu implementierende Wissen Bescheid weiß, mehrere Entwurfsentscheidungen, die nicht unabhängig voneinander sind.

Da ist zum einen die Frage, ob eine bereits existierende Expertensystem - Shell zur Implementation verwendet werden soll. Dies kann eine enorme Zeitersparnis bedeuten, schränkt jedoch die Arten der Wissensrepräsentation und die Inferenzmethoden auf die in dieser Shell implementierten ein.

Falls keine Shell verwendet wird, muss zuerst die Frage nach einer geeigneten Repräsentationsform beantwortet werden und darauf aufbauend die Frage der zu verwendenden Inferenzmechanismen.

Für die Implementation dieser Teile des Systems muss nun ein geeignetes Programmierverfahren ausgewählt werden. (logikorientiert, funktionsorientiert,) und anschließend eine entsprechende konkrete Programmierumgebung.

Schließlich müssen noch die Anforderungen an die Schnittstelle festgelegt werden. Ein Phasenplan zur Erstellung eines Expertensystems kann etwa so skizziert werden:

• Problemidentifikation ( Für welchen Zweck ? )
• Wissensakquisition ( formal aber implementationsunabhängig )
• Systementwurf ( Komponenten entwerfen, Programmiersprache/Shell auswählen )
• Programmierphase
• Systemeinsatz mit Test, Modifikation und Feinabstimmung

Die letzte Phase ist ein zyklischer Prozeß in dem Endbenutzer und Experten eine dominierende Rolle spielen.

3. Praktisch / kommerzieller Teil

3.1. Einsatzerwartungen

Die Nutzeffekte, die von den Auftraggebern von Expertensystemen erwartet werden, lassen sich wie folgt aufgliedern:

• Rationalisierungseffekte:

• Verkürzung von Bearbeitungszeiten
• Erhöhung der Produktivität
• Senkung des Personalaufwandes
• Dequalifikationseffekt (verwenden angelernter Kräfte möglich)

• Kontrolleffekte:

• Beherrschung der qualitativen Konsistenz von Produkt und Arbeit
• Besseres Verständnis / Analyse von Arbeitsvorgängen ("Nun, nachdem sie unsere Abteilung so genau analysiert haben, funktioniert alles so gut, dass wir ihr System gar nicht mehr brauchen")

3.2. Einsatzfelder

Ein allgemeine Eingrenzung geeigneter Arbeitsgebiete für Expertensysteme umfaßt folgende Bedingungen:

• Der Aufgabenbereich sollte deutlich abgrenzbar und nicht zu umfangreich sein.
• Der Aufgabenbereich sollte bereits einen gewissen Grad wissenschaftlicher Durchdringung und Systematisierung aufweisen (Fachliteratur, Lehrbücher vorhanden)
• Es sollte mindestens ein anerkannter menschlicher Experte, der sich auf die betreffenden Aufgabenklassen versteht, verfügbar sein. Aber: ,,Ein Experte ist jemand der keine Zeit hat."
• Hauptquelle der außergewöhnlichen Leistungen des Experten sollten Spezialwissen, Erfahrung und geschultes differenziertes Beurteilungsvermögen sein.
• Der Experte muss bereit und in der Lage sein, sein Spezialwissen und seine Erfahrung (verbal) mitzuteilen.

Verschiedene Einsatzgebiete von Expertensystemen

• Analytische Expertensysteme
• Diagnose (MYCIN, Maschinenfehleranalyse)
• Klassifikation (Dendral, Prospektor)
• Sythetische Expertensysteme
• Planung (Maschinenbelegung, CIM)
• Konfiguration (R1/XCON)
• Andere Einsatzgebiete
• Entscheidung (Management)
• Beratung (Bank)
• Aktive Hilfe (rechnergestützte intelligente Handbücher)
• Unterricht

3.3. Marktüberblick

3.3.1. Marktgröße und Marktentwicklung

Leider sind mir nur Daten von Ende der achziger Jahre verfügbar geworden. Bei meinem Literaturstudium war es nicht möglich Daten aus neuerer Zeit zu gewinnen.
All diese Statistiken bzw. Prognosen sind mit Vorsicht zu genießen, da verschiedene nicht offengelegte Randbedingungen die Zahlen beeinflussen:

• Firmen können den Umsatz ankurbeln wollen durch den Effekt selbsterfüllender Prophezeiungen, so dass die Zahlen zu hoch sein können.
• Es kann aber in Firmen evtl. auch als Firmengeheimnis gehaltene Systeme geben. Zum Beispiel um die Marktreife eines Systems abzuwarten.
• Es können unterschiedliche Definitionen von Expertensystem im Spiel sein. (Zählen von trivialen Systemen oder Prototypen etc.)

Trotz dieser Unklarheiten kann man zusammenfassend sagen, dass sich eine eher zögerliche Einführung der Expertensystemtechnologie abzeichnet. Nach Ansicht des Frauenhofer - Instituts für Arbeitswissenschaft und Organisation in Stuttgart ist dies der Fall, wegen der noch nicht nachgewiesenen Wirtschaftlichkeit der Systeme ([AD90]).

Laut Batelleinstitut gab es 1987 weltweit 2000 - 3000 Systeme davon 1000 im Systementwurf, 700 als Prototyp, 200 im Test und nur 100 in routinemäßiger Anwendung ([AD90]).

Nach einer Untersuchug, die Mertens (Wirtschaftsinformatiker an der Universität Erlangen - Nürnberg) 1988 durchführte, gab es zu dieser Zeit 935 Systeme auf verschiedenen Realisierungsstufen, davon 445 in USA. 32 Systeme seien in der BRD im betrieblichen Einsatz.

Nach einer DGB Studie von 1989 gab es in den USA 80 - 120 betrieblich eingesetzte Systeme.

Nach dem Japanischen Ministerium für Industrie und Handel MITI gab es in Japan 1987 60 Systeme.

Bei strengen Maßstäben der Eingeschwungenheit sinkt die Zahl der wirklich im Einsatz befindlichen Systeme auf 5 Stück für die BRD 1989.

Als eingeschwungen wird ein System bezeichnet, wenn es folgende Bedingungen erfüllt: Es wird schon mehr als ein Jahr vor Ort betrieben, es stellt eine echte Anwendungsentwicklung dar, keine Spielzeug -, Demo -, Messe - oder Ausbildungsentwicklung und es keine größere Rekonfiguration des Systems über die üblichen Wartungsänderungen hinaus gibt ([AD90]).

Auf Expertensysteme enfielen nur 1988 0,3 % des Datenverarbeitungs Marktes. Das sind 122 Mio DM Marktvolumen für Expertensysteme gegenüber dem gesamten DV - Marktvolumen (das sind Software + Hardware + Dienstleistungen) von 37 Mrd. DM. (Nach [CB89] S. 81)
Bei dieser Größe stellt sich die Frage: "Warum veranstalten IG - Metall, Kirchen, die deutsche Landwirtschaftsgesellschaft und der Bundestag Symposien und Anhörungen zum Thema Expertensysteme, wenn der ganze aktuelle Markt gerade ein drittel Prozent des bundesrepublikanischen DV - Marktes ausmacht und weniger bringt, als der Verkauf eines einzigen gerüsteten Tornado Jagdbombers?" [CB89]

Der Markt für Expertensysteme erlebte Mitte der achtziger Jahre weltweit einen Einbruch weg von der prognostizierten exponentiellen Entwicklung. Die Befürworter der Technologie sprechen trotzdem nicht von einer Trendwende, sondern sie prognostizieren eine sogenannte ,,zweite Welle" der Expertensystem - Verbreitung, die nun anschließend einsetzen soll. Ob diese erneute Wachstumsprophezeiung wirklich eintritt ist allerdings noch fraglich.

Zusammenfassend kann man sagen, dass wir es bei der Marktverbreitung von Expertensystemen noch nicht mit einem Phänomen zu tun haben, das bereits die Wirtschaft in nennenswertem Maße erfaßt hat. Man sollte dies bei aller Diskussion über gesellschaftliche Folgen im Auge behalten.

Wenn man sich statt dessen das Ausmaß der ,,unspektakulären" normalen DV - Technologie vor Augen hält, die auf PC Basis in fast alle Büros und Fabriken eingezogen ist, so kommt man vielleicht zu einer ausgewogeneren Einschätzung, des Stellenwerts der Expertensystemtechnik.

Für die Verbreitung einer Technik sind auch die Preise sehr wichtig, die man für die nötige Hardware und Software zu zahlen hat. Bei Expertensystemen zeichnet sich dabei eine ständig sinkende Tendenz ab. Es gibt eine zunehmende Abkehr von teurer Spezialhardware, nachdem nun schon gute Systeme selbst für PCs angeboten werden. Bei Preisen von ca. $ 800 - $ 5000 für eine Expertensystem - Shell oder ca. $ 50000 für eine LISP Maschine kann man von einem im Verhältnis günstigen Einstieg in eine ,,Schlüsseltechnologie" sprechen. Diese Tendenz scheint ganz im Gegensatz zu der oben erwähnten zögernden Marktentwicklung zu stehen, doch darf man nicht vergessen, dass der Hauptunsicherheitsfaktor bei der Expertensystementwicklung nicht die Hard - und Softwarepreise sind, sondern die Personalkosten und vor allem anschließend die Wartungskosten. Es sind schon mehrere Systeme wegen ,,unerwartet hohen Wartungsaufwandes" eingestellt worden ([AD90]).

4. Problemteil

4.1. Warum es keine perfekten Expertensysteme geben kann

"Expertensysteme sind wissensbasierte Computerprogramme, die die Leistung menschlicher Experten simulieren sollen; dazu gehören Probleme erkennen, Probleme verstehen, Probleme lösen, den Lösungsweg erklären, die eigene Kompetenz einschätzen." ([Pup88])

Dass ein Expertensystem Probleme haben wird, dieser hochgespannten Definition zu entsprechen leuchtet wohl unmittelbar ein.

4.1.1. Softwaretechnische Probleme

Eine kleine Schlußkette:
Heuristische Verfahren gehören per Definitionen zu Expertensystemen
Heuristische Verfahren versagen per Definitionen in manchen Fällen
-> Expertensysteme versagen per Definitionen manchmal.

Es stellt sich die Frage, wie man die Fälle, in denen das System versagt, erkennen kann und so katastrophale Folgen vermeidet.

Die Systeme versagen im allgemeinen abrupt. Sogenannte "graceful degradation" beim Ãœbergang in nicht mehr korrekte Bereiche wird zwar angestrebt, ist jedoch noch nicht verwirklichbar.

Typischerweise wird ein Expertensystem schrittweise programmiert. Das heißt, ein Prototyp mit wenig Regeln, der nur die Standardfälle lösen kann wird erstellt und dann wird die Wissensbasis laufend erweitert, um weitere Fälle zu erfassen. Diese Phase kann Jahre dauern.

Auch im laufenden Betrieb wird häufig die Wissensbasis weiter ergänzt. Hier gibt es das Problem von Seiteneffekten und Inkonsistenzen. Spätestens ab 8000 Regeln sagt man sei ein System kaum noch handhabbar.

Ein Expertensystem ist nie ganz fertig und nie ganz fehlerfrei !

,,Der Unterschied zur traditionellen Software - Entwicklung liegt nicht unbedingt in der Tatsache, dass Fehler vorkommen (das ist immer der Fall), sondern in der Tatsache, dass sie als normale Arbeitsbedingungen des Programmes grundsätzlich akzeptiert werden. Aus diesem Grund scheiden Expertensysteme für den Einsatz in kritischen und gefährlichen Umgebungen aus. Ebenso ist die Einbettung von Expertensystemen in autonome Systeme unzulässig, sofern die Entscheidungen des Systems irreversibel sind. Viele Vorschläge der Anwendung von Expertsystemen im CIM und im militärischen Bereich fallen in diese Kategorie ;
Expertensysteme müssen als riskante und gefährliche Systeme betrachtet werden. ([CB89])

4.1.2. Grundsätzliche Probleme

Wissensgewinnung und Wissensrepräsentation

Neben solchen Problemen wie der Zugänglichmachung von (nonverbalem) Handlungswissen, stellt sich die allgemeine Frage der Formalisierbarkeit von Wissen. Es ist durchaus denkbar, dass es nicht formalisierbare Fähigkeiten gibt.

Ein prinzipielles Problem mit formalen Systemen bleibt jedoch die Tatsache, dass die realweltlichen Bedingungen nur soweit erfaßt werden, wie sie formalisierbar sind und formalisiert wurden. Diese Formalisierung kann nicht perfekt und vollständig sein. Dass heißt, es gibt immer einen Verlust bei der Formalisierung eines Realitätsbereiches. Man spricht von einem Wirklichkeitsverlust, der notwendigerweise mit einer Formalisierung verbunden ist.


Das fehlende Erkennen der eigenen Grenzen

Ein menschlicher Experte hat neben seinem Fachwissen noch allgemeines Wissen über die Welt. Er hat dadurch auch die Möglichkeit die Grenzen seines Fachwissens zu erfassen.

Ein Expertensystem hat kein solches allgemeines Alltags - und Weltwisses und nur einen beschränkten Zugang zur Welt. Deswegen kann es kein Wissen über seine Grenzen haben. Das heißt, es kann nie erkennen, dass es jetzt nicht genug weiß und ,,Hilfe" hinzuziehen müsste, oder nachlesen müsste, wie das ein Mensch tun würde. So hat es medizinische Expertensysteme gegeben (MYCIN) die diagnostizieren auch jemanden mit den Symptomen eines Beinbruchs als bakteriell infiziert, weil das eben die Welt ihres Fachwissens ist. Der Einbau von Alltagswissen in Expertensysteme ist zwar Forschungsgegenstand, doch kann man dieses Vorhaben nicht im vollen Sinn von Alltagswissen ernstnehmen. Ein solches Vorhaben wäre unter anderem aus Gründen der Größe und den oben genannten Gründen von ,,Wirklichkeitsverlust" nicht möglich.

Insgesamt haben Expertensysteme also eine Art ,,Stammtischmentalität": Sie reden auch da noch kräftig mit, wo sie schon längst keine Ahnung mehr haben.

Was Expertensysteme nicht können

• sich in einen Menschen hineinversetzen (man denke an Beratungssituationen)
• kreativ neue Probleme erkennen und neue Lösungen finden
• ihre Kompetenz einschätzen
• fehlerfrei sein
• Probleme lösen, für die Welt - und Alltagswissen benötigt wird

4.2. Warum auch perfekte Expertensysteme problematisch wären

4.2.1. Einsatzinteressen

Expertensysteme sollen Probleme lösen, für die man Experten braucht. Diese Probleme sind häufig durch zunehmende - meist technische - Komplexität entstanden. ( Man denke an AKW Steuerungssysteme ! ) Da Expertensysteme jedoch selbst von hoher Komplexität sind, stellt sich die Frage, ob hier nicht versucht wird mit Benzin zu löschen. Das Problem der Potenzierung von Komplexität bleibt auch bei nahezu perfekten Expertensystemen. Man kann mit solchen Mitteln nicht das Ziel einer einfachen transparenten Technik erreichen.

4.2.2. Negative Folgen für die Arbeitswelt

Die negativen Folgen, die eine Einführung von Expertensystemen für die Arbeitswelt haben kann, lassen sich wie folgt gliedern:

Direkt:

Betroffen sind qualifizierte Facharbeiter, Ingenieure und Sachbearbeiter. Da man sich Produktivitätssteigerungen erhofft, ist mit negativen Beschäftigungsauswirkungen zu rechnen. In Wachstumsbranchen wird zwar nicht entlassen, aber dann eben nicht in gleichem Maß neueingestellt.

Indirekt:

Indirekt können Expertensysteme die Diffusion anderer Rationalisierungstechniken beschleunigen und deren Akzeptanz verbessern (wissensbasierte Benutzerschnittstellen). Diese wirken dann evtl. ebenfalls in Richtung obiger negativer Beschäfigungsauswirkungen.
Es kann sich weiter der Trend zur Trennung in Kern - und Randbelegschaften verstärken. Immer weniger Mitarbeiter gelten als gutbezahlte und kaum kündbare ,,Stützen" des Betriebs, da immer mehr durch angelernte Kräfte schnell ersetzbar sind.

Deskilling - Effekt:

Kompetenzen und Qualifikationen verschwinden und die Möglichkeit zu ihrem Neuaufbau wird kleiner. Es bleiben also tendenziell eher die einfachen Maschinenüberwacherjobs.
Außerdem werden die Qualifikationsdefizite der Arbeitnehmer, die man mit Expertensystemen ausbügeln will durch diese natürlich noch zementiert.

Arbeitsverdichtung:

Die Routine - Expertenarbeit, die das Haupteinsatzgebiet von Expertensystemen ist, ist eine Möglichkeit zur Erholung für den Experten.
Für die Bediener eines so komplexen Systems kann es gegenüber dem undurchsichtigen und schlecht beherrschbaren System zu psychischem Streß kommen.

Job Enlargement:

Zusätzliche Aufgaben sollen von bisher nicht genug qualifizierten Mitarbeitern mittels Expertensystem jetzt mit übernommen werden. Zum Beispiel soll der Bankberater jetzt auch den Wertpapierverkauf mit übernehmen.

Kommunikationsabbau:

Kommunikationsabbau kann gerade in den komplexen Problem - und Entscheidungssituationen stattfinden.

Fast alle diese Effekte sind nicht spezifisch für die Einführung der Expertensystemtechnik, sondern treten ganz allgemein beim verstärkten Einsatz auch konventioneller DV - Produkte auf.

4.3. Verantwortung

Zwei Thesen vorab:

• Verantwortung ist ein ethisches Problem, das der rechtlichen Frage der Haftung noch vorausgeht. Man muss Verantwortung davon unterscheiden, wer zur Verantwortung gezogen wird.

• Verantwortung kann nur übernehmen, wer kompetent, gewissenhaft und bewußt handelt. Jedes Handeln ohne diese Komponenten ist ,,unverantwortlich". Es ist sehr zweifelhaft, ob Maschinen auch nur ein einziges dieser Kriterien erfüllen.

Zum Verschwinden / Verschleiern von Verantwortung:

Wer ist denn verantwortlich, wenn etwas schiefgeht beim Einsatz eines Expertensystems? Der Autorenexperte, von dem das Wissen stammt, der Wissensingenieur, der das Wissen eingegeben hat, die Softwarefirma, die das System programmiert hat, der Vertreiber, der das System verkauft hat, der Entscheidungsträger aus der betroffenen Firma, der den Einsatz angeordnet hat, oder der Benutzer, der das System letztendlich eingesetzt hat ?

Speziell kritisch können Verantwortungsfragen beim Echtzeitbetrieb ohne menschliche Konsultation werden, wie zum Beispiel in der Produktionssteuerung.

Die Enquete - Kommision des Bundestages für Technikfolgenabschätzung schlägt eine Aufteilung der Verantwortung vor. Danach ist der Autorenexperte für die Validität des Materials verantwortlich, der Wissensingenieur für eine korrekte Formalisierung und Eingabe, die Softwarefirma für ein korrektes Programm und letztendlich der Benutzer für seine Gutgläubigkeit beim Einsatz ([AD90]).
Eine solche Trennung ist in der Praxis jedoch wohl kaum durchführbar, da die Zuordnung von Fehlern selten so eindeutig ist.

Die Zuordnung von Verantwortung an Menschen wird also eine problematische Frage bleiben. Die Maschine fällt als Verantwortungsträger aus. Die Frage ist, wie diese komplizierte Lage sich im unmittelbaren Einsatz auswirkt. Wahrscheinlich wird es zu einer Diffusion und vielleicht sogar zu einem Verschwinden des Verantwortungsgefühls kommen.

,,Natürlich kann keine Maschine Verantwortung tragen, aber sie kann sie verschleiern, so dass der an der Maschine Arbeitende sich nicht mehr verantwortlich fühlt." ([CB89])

4.4. Haftung

Wenn bereits die Verantwortung nicht eindeutig zugeordnet werden kann und die Expertise grundsätzlich unsicher ist, so ist es nicht verwunderlich, dass sich ein großes Haftungsproblem stellt.

Es gibt im deutschen Recht die sogenannte Produkt - oder Produzentenhaftung, eine Sonderform der deliktischen Haftung. Diese Haftung tritt ein bei Schäden an ,,absoluten" Rechten wie Leben, Gesundheit, Körper, Freiheit, Eigentum etc. Angewendet wird diese Form der Haftung, wenn die Schäden durch ,,bewegliche Waren aus industrieller Fertigung" verursacht werden. Standardsoftware hat rechtlich inzwischen diesen Status. Laut Enquete - Kommission des Bundestages muss man Expertensysteme in dieser Beziehung wie Standardsoftware behandeln. Bei dieser Art der Haftung wird der Hersteller bzw. Produzent als Haftender herangezogen. Wer nun im Falle von Expertensystemen als solcher gilt (Softwarefirma, Vertrieb, ...), ist noch nicht durch Präzedenzfälle geklärt.

Diese Haftungslage wird nun noch verschärft dadurch, dass seit dem 1. Januar 1990 in der BRD die neue verschuldensunabhänige Produzentenhaftung gilt. Nach diesem Haftungsrecht muss dem Hersteller nicht mehr bewiesen werden, dass er den betreffenden Fehler verursacht hat. Auch das Argument, dass es sich bei dem fehlerhaften Produkt nur um einen Einzelfall handelte, entfällt. Nur der Einwand bleibt, dass der Fehler nach dem Stand der Kunst unvermeidbar gewesen sei, d.h. die gefährlichen Eigenschaften des Produktes zum Zeitpunkt der Erstellung ,,für niemanden auf der Welt erkennbar" waren.
Die Eigenschaften von Expertensystemen sind jedoch sehr wohl bekannt.

Dieses neue Produkthaftrecht ,,führt praktisch zu einer Gefährdungshaftung mit nur ganz geringen Entlastungsmöglichkeiten für den Unternehmer". Damit können auf die Produzenten von Expertensystem ganz akute Haftungsprobleme zukommen. Es ist fraglich, ob sich alle Hersteller von Expertensystemen über diese Fragen ganz im Klaren sind ([AD90]).

4.5. Andere rechtliche Fragen

Zu anderen rechtlichen Fragen, die hier nur kurz angeschnitten werden sollen, gehören zum Beispiel:

Fragen des Urheberrechts auf Expertenwissen für die menschlichen Experten. Wie wird dieser Wissenstransfer entlohnt. Gibt es im Wissensbereich geistiges Eigentum?
Das umgekehrte Haftungsproblem am Beispiel Medizin:
Wenn eine Behandlung, die ohne Expertensystem durchgeführt wurde, Schäden hinterlässt und nun geklagt wird mit der Annahme, dass die Behandlung mit Expertensystem besser gewesen wäre. Kann ein Arzt verpflichtet werden alle technischen Möglichkeiten auszunutzen, bzw. ihnen in diesem Fall zu vertrauen?

4.6. Kritische Einsatzfelder

Es gibt Einsatzfelder für Expertensysteme, die vor allem aus den Gründen der nicht nachprüfbaren Zuverlässigkeit von Expertensystemen als kritisch betrachtet werden müssen.

Dazu gehört zum einen der Einsatz in der Steuerung und Überwachung von technischen Großanlagen also zumeist die Einbettung in Realzeitsysteme.

Beispiel: Im Rahmen eines Verbundprojekts ist bei der Interatom GmbH ein Expertensystem zur Situationsbewertung in Atomkraftwerken vom Typ ,,schneller Brüter" entwickelt worden. Die Ziele beim Bau dieses Systems sind:
Vereinfachung der Fehlerdiagnose - die wäre dann durch angelernte Kräfte möglich - und Kostenreduktion. Das System ist ,,zunächst als reines Beratungssystem" gedacht ([AD90]).

Ein anderer kritischer Einsatzbereich ist der Einsatz für militärische Zwecke. Es gibt verschiedene ( bekannte ! ) Projekte bei denen Expertensysteme für militärische Zwecke eingesetzt werden sollen. Zum Beispiel im Rahmen der Strategic Computing Initiative. Darüber hinaus sind Forschungsprojekte bekannt:
Zum Beispiel ein System, das einen menschlichen Experten in militärischer Lageananalyse modellieren soll, oder ein Signal to Symbol Projekt, in dem mit Expertensystemtechnik Schiffe aufgrund ihrer Motorengeräusche identifiziert werden sollen ([RH87]).

Militärische Expertensysteme entscheiden zumeist direkt oder indirekt über Menschenleben mit. Eventuell über sehr viele. Ein Einsatz dieser unsicheren Technologie für diese Zwecke erscheint mir unverantwortbar.

Für all diese Systeme gilt die Grundproblematik, dass dem Menschen als ,,Fehlerquelle" mißtraut wird. Es gibt nun eine große Bereitschaft ihn durch eine Maschine zu ersetzen, der man anscheinend mehr vertraut. Dabei wird gerne übersehen, dass der Mensch als Fehlerquelle nur durch eine andere ersetzt wird. Mit dem großen Unterschied, dass der Mensch für seine Fehler Verantwortung übernehmen kann .

4.7. Schlußthesen

Expertensysteme sind eine relativ neue Technik, deren Grundlagen zum größten Teil noch ungeklärt sind.

Bisher wurden vorwiegend wissenschaftliche oder technische Prototypen hergestellt, bei denen es in den weitaus meisten Fällen nicht zum Routineeinsatz unter industriellen Bedingungen kam.

Das Hauptinteresse an Expertensystemen rührt nicht von bewiesenen Qualitäten her, sondern von einem vermuteten Potential.

Expertensysteme sind kein Angriff auf qualifizierte Arbeit, sondern eine Spielart der generellen Verdrängung von Facharbeit durch DV - Produkte.

Menschliches Expertentum ist nicht vollständig automatisierbar.

Werden Expertensysteme zur Steuerung und Überwachung von technischen Großsystemen (Realzeitsysteme) verwendet, wird Komplexität mit Komplexität bekämpft. Komplexität wird potenziert statt problematisiert. Der Effekt wird zumeist nicht größere Beherschbarkeit sein, sondern immer unvorhersehbares Verhalten.

Expertensysteme gehören nicht in die Hand von unerfahrenen, wenig kompetenten und in der Anwendung ungeschulten Benutzern. Sie können die Grenzen des verantwortlichen Einsatzes von Expertensystemen nicht abschätzen.

Expertensysteme dürfen nicht als Expertenersatzsysteme, sondern eher als Assistenzsystem von menschlichen Experten oder von gut ausgebildeten Mitarbeitern eingesetzt werden.

Expertensysteme dürfen nicht in Bereichen eingesetzt werden, in denen schnelle und kritische Entscheidungen gefragt sind (z.B. AKWs, Militär)

5. Literaturverzeichnis

Zentral interessant:

[Pup88] F. Puppe: Einführung in Expertensysteme. Studienreihe Informatik, Springer, Berlin - Heidelberg - New York 1988
Vor allem technisch orientiert.
[AD90] I. Abraham und A. DeNobile. Risiken der Expertensystemtechnik.
Ein kompakte und informative Seminarausarbeitung.
[CB89] W. Coy und L. Bonsiepen. Erfahrung und Berechnung - Kritik der Expertensystemtechnik, Band 229 von Informatik - Fachberichte. Springer, 1989
Ein umfassender Ãœberblick.
[RH87] S. Rudolph und F. Höfting. Expertensysteme - die Feldherren der Zukunft? in Böker [Bök87]
Seminarausarbeitung. Nur für den speziell militärischen Aspekt interessant.

Ausserdem:

[Coy90] W. Coy. Expertensysteme. S 111 - 120. In von Randow [vR90a], 1990
[Kra87] S. Kraft. Expertensysteme. In Bürckert und Künkler [BK87]

Sammelbände in denen die Artikel erschienen sind:

[BK87] H. - J. Bürckert und A. Künkler, Hrsg. Gesellschaftliche Auswirkungen der Informatik: Seminarausarbeitungen. FB Informatik, Universität Kaiserslautern, WS 86/87.
[Bök87] K. - H. Böker, Hrsg. Verantwortung des Informatikers - militärische Anwendungen der Informatik: Seminarausarbeitungen. Universität - Gesamthochschule Paderborn, WS 86/87.
[Dör90] H. Dörr, Hrsg. Kritik der Informationstechnik: Seminarausarbeitungen. FB Mathematik. Serie B. Informatik, FU Berlin, Mar. SS 1990
[vR90a] G. von Randow. Hrsg. Das kritische Computerbuch. GRAFIT Verlag GmbH, Dortmund, 1990.

tangierende Internet - Adressen:

http://www.info.et - inf.fho - emden.de/~socher/local.html
http://www.informatik.uni - tuebingen.de/kraemer/xps.htmi
http://www.forwiss.uni - erlangen.de/~jws
http://www.bern.informatik.uni - kl.de/wendel/index.html
http://www.agr.informatik.uni - kl.de/richter/
http://www.rz.uni - karlsruhe.de/Uni/Fakultaeten/Informatik/ILKD.html
http://www - i5.informatik.rwth - aachen.de/rgi/acm/acm - info.html

6. Stichwortverzeichnis

4522 Worte in "deutsch"  als "hilfreich"  bewertet