Themen - Referate

Transcrição

Themen - Referate

Themen - Referate
Informatik und Gesellschaft
Technik und Ethik
Stand:
Oktober 2003
Studiengang:
Studienrichtung:
Automatisierung / Elektronik
Studiensemester:
5
Mit Sicherheit enthält dieses Skript Fehler und verbesserungswürdig ist es auch. Wollen Sie mir helfen? Ich
freue mich über jeden Hinweis bzw. Korrektur. Schreiben Sie mir:
Email: [email protected]
Diese Unterlagen sind nur zum persönlichen Gebrauch bestimmt. Sie sind ein Begleitmaterial zur Vorlesung.
Vervielfältigungen, auch von Teilen der Unterlagen, sind nicht zulässig.
M. Bongards
M. Bongards
Technik & Ethik
Übungsaufgaben
Aufgabe 1 a)
Lohnt sich ethisches Verhalten für ein Unternehmen?
Geben Sie Beispiele für Ethik-Normen von Unternehmen.
Suchen Sie Fakten/Daten, die nachweisen, dass sich das Einhalten von normen
wirtschaftlich lohnt.
Zum Einstieg aus Wirtschaftswoche, Nr. 48 vom 23.11.2000:
ANSTANDSREGELN - Bei Anruf- Anpfiff
„Wir achten die Gesetze und respektieren die allgemein anerkannten Gebräuche der Länder,
in denen wir tätig sind" , heißt es in der 16-seitigen Broschüre mit den
Unternehmensleitlinien, die BASF im Frühjahr dieses Jahres veröffentlichte. "Damit wollen
wir allen vor Augen führen, was unsere Geschäftspolitik ist", sagt Ute Herrmann,
Projektleiterin Weiterbildung und Mitglied des Teams, das die Leitlinien erarbeitete.
Seit der Veröffentlichung der Broschüre bekommt die 35-Jährige regelmäßig Anrufe
erstaunter Mitarbeiter: " Wir waren doch vorher auch kein Mafiaunternehmen."
Doch das sei völlig normal, ist Herrmann überzeugt: "Ethik muss man implementieren." Auf
internen Veranstaltungen werden den Mitarbeitern seither Grundwerte vorgestellt, die sich
um Sicherheit, Gesundheit, Umweltschutz, Innovation, interkulturelle Kompetenz und
Integrität ranken. Dazu gehören aber auch Leitlinien wie das so genannte ComplianceProgramm.
Der Verhaltenskodex enthält Stichworte zu allem, was einem Chemieriesen Ärger machen
kann: Geldwäsche, Embargo-, Exportkontrollbestimmungen und
Chemiewaffenkontrollgesetz, Insiderwissen oder kartellrechtliche Vorschriften. Wissen
BASF-Mitarbeiter im Zweifelsfall nicht weiter, können sie sich nicht nur an Vorgesetzte
oder den Betriebsrat wenden, sondern auch eine Hotline anwählen. Dort ist während der
Tagschicht ein Mannheimer Anwalt erreichbar, der Hinweise auf Fehlverhalten notiert auch anonym. Alle Informationen gehen dann an die Rechtsabteilung der BASF, die bei
Bedarf eine Untersuchung einleitet.
Ob und wie häufig die Chemiewerker bereits davon Gebrauch machten, möchte BASF nicht
mitteilen. Das Instrument sei noch zu neu, um eine Bilanz zu ziehen. Zumindest aber in den
USA hat der Konzern Grund zur Imagepflege: Dort wurde die BASF AG im Mai 1999 zu
einer Geldstrafe von 225 Millionen Dollar wegen kartellrechtswidriger Absprachen
verurteilt. Gemeinsam mit der Schweizer F. Hoffmann-LaRoche Ltd. hatte der
Chemiekonzern ein ganzes Jahrzehnt lang die Preise für die Vitamine A, B2, B5, C, E und
Betakarotin künstlich hoch gehalten.
Aufgabe 1) b)
Diskutieren Sie die Leitlinien in:
www.bayer.de/de/unternehmen/unternehmenspolitik/grundsaetze/verantwort.html
2
M. Bongards
Technik & Ethik
Übungsaufgaben
Aufgabe 2
Was machen Sie, wenn Sie sich in der Situation des Autors befinden?
(Veröffentlicht in Karriereberatung der VDI-Nachrichten von 1992)
Sie fragen nach Anregungen zur Verbesserung unseres Führungssystems. Ich war leitender
Angestellter eines westdeutschen Großunternehmens, das entscheidenden Anteil an der
Erstellung eines weltberühmten Bauwerkes in einer namhaften Großstadt hatte.
Etwa sieben Jahre vor dem Einsturz größerer Teile des Bauwerkes, es gab Todesopfer und
Verwundete sowie viele Millionen Sachschaden, trug ich meinem technischen Vorstand
ausführlich vor, dass sich bei mir infolge verschiedener Informationen wichtiger Gremien
die Meinung gebildet hatte, den Zustand des Bauwerkes sehr genau zu untersuchen, um
einen Schadensfall zu verhüten. Beim Bau war „meine“ Abteilung zuständig gewesen für die
Lieferung relevanter Teile.
Noch etwa einem Jahr, angefüllt mit verschiedenen mündlichen Erinnerungen meinerseits,
lehnte der Vorstand es ab, den Zustand des Bauwerkes einer Überprüfung zu unterziehen
bzw. den Hausherrn zu einer solchen zu veranlassen. Man teilte mir mit, dass mein
Vorschlag damit endgültig erledigt sei und dass mein Aktenvermerk als .final erledigt. zu
gelten habe.
Vier Jahre später, also noch vor dem Einsturz, trennte sich der Konzern von mir. Es war ein
nobler Abschied, der mir aber dennoch psychischen Schaden zufügte. Es gab für mich keine
Institution, die ich hätte anrufen können, um mir bei meinen wichtigen Entscheidungen zu
helfen. Deshalb unterstütze ich die Bestrebungen des VDI zur Gründung einer TechnikethikKommission.
Wie hätte ich mich noch Ihrer Meinung verhalten sollen? Hätte ich von mir aus als
Angestellter die Staatsanwaltschaft informieren müssen?
3
M. Bongards
Technik & Ethik
Übungsaufgaben
Aufgabe 3
Moralische Konflikte. Wie verhalten sich Informatiker und Informatikerinnen in ethischen
Kollisionen?
Diskutieren Sie untereinander die folgenden Sätze, die oft ausgesprochen werden, wenn
Arbeitnehmerinnen und Arbeitnehmer in moralische Konflikte hineingezogen werden„Ich würde meinen Arbeitsplatz verlieren, wenn ich nicht mitmachte.“
„Wenn ich es nicht tue, wird es jemand anderes tun.“
„Das ist nicht meine Aufgabe, ich arbeite nur hier.“
„Es gibt keine Alternativen."
a)
Sind das Ihrer Meinung nach bloße Ausreden oder legitime Einwände?
b) Versuchen Sie, diese Aussagen an einem konkreten Beispiel zu diskutieren.
c)
Überlegen Sie gemeinsam, welche verschiedenen Loyalitätskonflikte im
Ingenieurberuf auftreten können. Versuchen Sie, bei der Beantwortung dieser
Frage auch teleologische Überlegungen (Folgeethik) und deontologische
Überlegungen (Prinzipienethik) einander gegenüberzustellen.
Literatur:
K. D. Alpern, Ingenieure als moralische Helden. in Technik und Ethik, hrsg. v.
H. Lenk; G. Ropohl, 2. rev. u. erw. Auf., Stuttgart 1993, S. 177 193.
4
M. Bongards
Technik & Ethik
Übungsaufgaben
Aufgabe 4
Prinzip Verantwortung 1. Wie weit reicht die Verantwortung?
Setzen Sie sich kritisch mit den folgenden (erfundenen) Statements auseinander (vgl. M. W.
Martin; R. Schinzinger, Ethics in Engineering, New York 1989, S. 78):
Ingenieurin, Ingenieur: «Meine Verantwortung beschränkt sich auf die Fertigung von
Produkten; die Spezifikationen dabei machen oft andere. Die Entscheidung, welche
Produkte gemacht werden sollen und welche nicht, wird vom Markt bestimmt, so
entscheidet also das Management über meine Arbeit."
Naturwissenschaftlerin, Naturwissenschaftler: «Meine Verantwortung liegt im Gewinn
von Erkenntnissen. Ob dieses Wissen und wie dieses Wissen angewandt wird, ist ein
ökonomisches und/oder politisches Problem. Die Entscheide darüber liegen also
anderswo.»
Managerin, Manager: «Ich bin lediglich dafür verantwortlich, Gewinn zu machen für
die Aktionäre.»
Aktionärin, Aktionär: "Ich investiere mein Geld mit der Absicht, Gewinn zu machen.
Es liegt an den Managern, Entscheide über technologische Entwicklungen zu fällen."
Konsumenten, Konsument: „Ich bin in erster Linie für mich und meine Familie
verantwortlich. Der Staat soll mich vor gefährlichen Produkten und Technologien
schützen, ich bin doch bloß user.“
Staat: «Wir haben schon seit Jahren ein Komitee für Wissenschaft und Politik
gegründet und ihm die Aufgabe des technology Assessment (TechnologiefolgenAbschätzung) zugewiesen; dieses Komitee vertritt aber die Meinung, dass es kein
wissenschaftliches Rezept für Entscheidungen geben soll, denn diese liegen bei den
Politikern. Ferner setzen wir Ethik-Kommissionen ein, um Entscheidungshilfen für
technologische Entwicklungen zu bieten.»
Literatur:
K. Bayertz (Hrsg.), Verantwortung. Prinzip oder Problem?, Darmstadt 1995.
H. Jonas, Das Prinzip Verantwortung. Versuch einer Ethik für die
technologische Zivilisation, Frankfurt/M. 1979.
H. Lenk, Über Verantwortungsbegriffe und das Verantwortungsproblem in der
Technik. In: Technik und Ethik, hrsg. V. H. Lenk; G. Ropohl, 2. rev. u. erw.
Aufl., Stuttgart 1993, S. 112-148.
M. Sänger, Verantwortung. 22 Arbeitsblätter mit didaktisch methodischen
Kommentaren, Stuttgart 1996.
VDI nachrichten fazit -Technik und Verantwortung. Ein Kolloquium der VDI
Hauptgruppe am 13. 6. 1996 in Kassel. Sonderheft, Düsseldorf 1996.
5
M. Bongards
Technik & Ethik
Übungsaufgaben
Aufgabe 5 a)
Prinzip Verantwortung II. Verantwortung des Managements oder der Informatiker?
Im Ethik-Kodex der Schweizerischen Akademie der Technischen Wissenschaften (SATW,
Bern 1991) heißt es unter Paragraph 1:
«Ingenieure/technische Wissenschaftler tragen selbst die ethische Verantwortung für ihr
eigenes Handeln und für das Einbringen ihres Teilwissens in Entscheidungen anderer
Instanzen oder Kollektive. Diese persönliche Verantwortung ist nicht delegierbar.»
Es ist bekannt, dass Informatiker und Informatikerinnen sowohl in den USA als auch in der
Schweiz mehrheitlich als Angestellte arbeiten. Die Entscheidungsträger für die Herstellung
der Produkte sitzen oft im Management. Es gibt viele dokumentierte Fälle, in denen
Informatiker und Manager uneins waren, hier das Beispiel des Challenger-Unglücks im Jahr
1986.
Am 28. 1. 1986 explodierte der Raumgleiter Challenger 73 Sekunden nach dem Start am
Cape Canaveral. Alle sieben Astronauten kamen dabei ums Leben. Die minuziöse
Untersuchung des Katastrophenhergangs ergab, dass die direkte Unglücksursache die spröde
Gummidichtung an einer der Antriebsraketen war. An dieser Stelle konnte Treibstoff
ausfließen, welcher sich entzündete und zur Explosion führte. Diese Dichtungsringe
bezeichneten die Ingenieure der Raketen-Herstellerfirma Morton Thiokol seit längerem
schon als Schwachstelle. Als ideale Starttemperatur galt 10 'C, kritisch für die
Funktionstüchtigkeit der Dichtungsringe waren vor allem Temperaturen unter 0 'C. Noch
am Vorabend des Starts hatten sich die Ingenieure des Raketenherstellers gegen einen Start
ausgesprochen. In einer Telefonkonferenz mit der NASA machten sie nochmals auf die
kritischen Temperaturen aufmerksam. Der NASA-Projektleiter allerdings wies daraufhin,
dass es wegen bestimmter Temperaturen keine Starteinschränkungen gäbe. Die
Telefonkonferenz wurde daraufhin beendet.
Die Bedenken der Ingenieure wurden in der Herstellerfirma auch den Vorgesetzten, beides
Ingenieure, Robert Lund (stellvertretender Direktor) und Jerry Mason (Direktor)
vorgetragen. In einem internen Gespräch muss Mason, der Lunds Bedenken nicht ernst
genug nahm, gesagt haben: «Take off your engineering hat and put on your management
hat.» Damit war die Diskussion in der obersten Etage der Firma beendet; Lund gab nach,
stimmte der Startfreigabe zu und teilte diese dem NASA-Projektleiter mit. Dieser wiederum
meldete die Startfreigabe seinen Vorgesetzten, ohne allerdings die Bedenken der
Herstellerfirma zu erwähnen. Das Unglück nahm seinen Lauf (nach Ch. Hubig; H. Lenk; M.
Maring 1995, S. 64f.).
a)
Diskutieren Sie diesen Fall und betreiben Sie weitere Recherchen mit dem Internet; dort
ist das Challenger-Unglück minuziös beschrieben.
b) Wie mag es zu diesen Entscheidungen gekommen sein? Entscheiden Manager anders
als Ingenieure?
c) Ist das ein Fall für Wirtschafts- oder Technikethik?
d) Wer trägt im geschilderten Fall Verantwortung?
6
M. Bongards
Technik & Ethik
Übungsaufgaben
Aufgabe 5 b)
Prinzip Verantwortung III. Wer trägt die Verantwortung?
Sonntag 2. Februar 2003, 16:05 Uhr - Die "Columbia"-Katastrophe
Der Space Shuttle Columbia stürzte am Samstag, 01. Februar 2003, während der Rückkehr
zur Erde ab. An Bord waren sieben Astronautinnen und Astronauten: Rick D. Husband,
Commander, William C. McCool, Pilot, die aus Indien stammende Missions-Spezialistin
Kalpana Chawla, Laurel Blair Salton Clark, Missions-Spezialistin, Michael P. Anderson,
Payload Commander, David M. Brown, Missions-Spezialist und der israelische PayloadSpezialist Ilan Ramon.
Space Shuttle - Fakten
Bisher fanden insgesamt 113 Flüge der Space Shuttle-Flotte statt. Es gab zwei fatale
Unglücke. Momentan hat die NASA drei Raumfähren:
Discovery, Erstflug 1984, bisher 30 Flüge
Atlantis, Erstflug 1985, bisher 26 Flüge
Endeavour, Erstflug 1992, bisher 19 Flüge
Weitere Raumfähren:
Enterprise, Erprobungsträger, kein Flug
Columbia, Erstflug 1981, insgesamt 28 Flüge, verunglückt am 01.02.2003 (Zerbrechen
in ca. 62 Kilometer Höhe kurz vor der Landung)
Challenger, Erstflug 1983, insgesamt zehn Flüge, verunglückt am 28.01.1986 (Explosion
kurz nach Start)
Jeder Shuttle ist für insgesamt 100 Flugeinsätze entworfen und ausgelegt.
a)
Diskutieren Sie diesen Fall und betreiben Sie weitere Recherchen mit dem Internet; dort
ist das Unglück minuziös beschrieben.
b) Wie mag es zu diesem Unglück gekommen sein? Entscheiden Manager anders als
Ingenieure? (VDI-Nachrichten vom 7.2.03: „Die Nasa war seit langem gewarnt“)
c) Ist das ein Fall für Wirtschafts- oder Technikethik?
d) Wer trägt im geschilderten Fall Verantwortung?
7
M. Bongards
Technik & Ethik
Übungsaufgaben
Aufgabe 6
Befragung von Ingenieuren.
a) Entwickeln Sie einen Interviewleitfragen (Fragesammlung), mit dem man
Ingenieure nach erlebten ethisch-moralischen Problemstellungen (Dilemmata)
befragen kann.
b) Befragen Sie ein bis drei dieser Fragestellung gegenüber aufgeschlossene
Ingenieure mit diesem Leitfaden. Wie sind die genannten ethisch-moralischen
Probleme beschaffen? Welche Handlungsalternativen sehen die Ingenieure? An
welchen Kriterien orientieren sich die Ingenieure, wenn sie entscheiden, welche
Handlungsalternative sie realisieren sollen?
c)
Stellen sie die Ergebnisse dieser Befragung dar. Welche Schlussfolgerungen kann
man aus den Ergebnissen ziehen?
Aufgabe 7 (Aufgabe wird nicht vergeben ! )
Informatiker-ethische Konflikte in den Medien.
a) Suchen Sie in einer bekannten Zeitung, einer einschlägigen Zeitschrift oder in einem
Magazin einen Artikel, der einen moralischen Konflikt für Informatiker darstellt.
b) Fassen Sie diesen Artikel und das Problem zusammen und setzen Sie sich über die
ethischen Dimensionen ins Bild.
c)
Versuchen Sie, das Problem zu lösen, indem Sie mit den verschiedenen ethischen
Konzepten oder Imperativen arbeiten (Utilitarismus, Vernunftprinzip,
Gerechtigkeitsprinzip u.a.).
Aufgabe 8
Wo beginnt die Korruption?
Diskutieren Sie dieses oft tabuisierte Thema von den teuren Weihnachtsgeschenken per Post
bis zu den Schmiergeldern unter dem Tisch im Berufsalltag.
Literatur:
B. Grill, „Der globale Sumpf“ in DIE ZEIT, Nr. 44 vom 28.10.99, S. 11
http://www.zeit.de/links/
8
M. Bongards
Technik & Ethik
Übungsaufgaben
9
M. Bongards
Technik & Ethik
Übungsaufgaben
Loyalitätskonflikte.
a) Überlegen Sie, welche verschiedenen Loyalitätskonflikte in einem Informatikerberuf
auftreten können.
b) Wie gehen Sie mit solchen Problemen um? Versuchen Sie, mit moralischen
Prinzipien und Werten zu argumentieren.
Aufgabe 10
Waffenindustrie und Waffenentwicklung:
a) Diskutieren Sie ganz allgemein das Thema
"Technology and war - which promotes which?“
Literatur:
M.
W. Martin; R. Schinzinger, Weapons Development. In: Dies., Ethics in
Engineering, New York 1989, S. 288 301.
W. Ch. Zimmerli, Rüstungstechnologie und Friedensmoral. In: Ders.,
Einmischungen. Die sanfte Macht der Philosophie, Darmstadt 1993,
S. 119 144.
M. B. Kalinowski, Methoden zur Bewertung von Technologien von Rüstung und
Rüstungskotrolle. In: Ethica. Wissenschaft und Verantwortung, hrsg. von P.
A. Resch, 2. Jhg., Heft 2 (1994), Innsbruck 1994, S. 115-130.
Zur Verantwortung des Informatikers Militärische Anwendungen der Informatik.
In: Informatik Spektrum 10 (1987), S. 1-45.
b) Diskutieren Sie das Thema Rüstungsindustrie konkret am Beispiel der aktuellen
Diskussion zum Export von Panzern aus Deutschland in assoziierte Staaten (z.B.
Türkei).
Folgende Gesichtspunkte können unter anderem besprochen werden:
c) Tragen wir als Gesellschaft eine Mitverantwortung für die Folgen von Produkten, die
bei uns entwickelt werden (z.B. Dual use Güter)?
d) Wie urteilen Sie über Unternehmungen, die mit Ländern, in denen erwiesenermaßen
Menschenrechtsverletzungen geschehen oder deren Rechtsstaatlichkeit in Zweifel
gezogen werden messen, Geschäftsbeziehungen unterhalten?
Die Grünen verurteilen Rüstungsexport schon fast fundamentalistisch.
e)
Was ist dazu aus wirtschaftlichen und ethischen Überlegungen zu sagen?
10
M. Bongards
Technik & Ethik
Übungsaufgaben
f) Wie verhielt sich die Regierung? Sammeln Sie die Stellungnahmen der Regierung
und der Unternehmen.
g) Was spricht für, was gegen einen Export der Panzer? Wie wurden Sie sich
gegenüber einem Arbeitgeber verhalten, wenn er von Ihnen eine Arbeit fordert, die
ethisch problematisch oder gar verwerflich ist?
h) Würden Sie persönlich in der Rüstungsindustrie arbeiten wollen?
Aufgabe 11
Sanierung in einem Kleinbetrieb.
Sie sind Mitglied der Geschäftsleitung einer Kleinfirma. Angesichts der verschärften
Konkurrenzsituation und der geschwundenen Nachfrage können Sie weniger Güter absetzen,
einen niedrigeren Preis verlangen oder Restrukturierungen ins Auge fassen. Da sich die
Verhältnisse nicht rasch ändern, sind Sie gezwungen, entweder 30% der 20 Personen
Belegschaft abzubauen oder die Produktion ins Ausland zu verschieben.
Sie erwägen auch Lohnkürzungen der Mitarbeiter oder überlegen, ob die Arbeitszeit
verändert werden könnte, um so eine Schließung des Betriebs möglichst zu vermeiden.
a)
Diskutieren Sie verschiedene Szenarien.
b) Sehen Sie noch andere Schritte, die zu akzeptablen Lösungen führen könnten?
Führungsstil.
Bekanntlich gibt es in Betrieben und Büros verschiedene Arten, mit Menschen umzugehen.
In einem Unternehmen spielt der Umgangston und das Verhalten zwischen Chef und
Untergebenen eine wichtige Rolle.
a)
Beschreiben Sie verschiedene Führungsstile.
b) Welche scheinen Ihnen moralisch geboten?
11
M. Bongards
Technik & Ethik
Übungsaufgaben
Aufgabe 13
Kollegialität und Konkurrenz.
Überall, wo Menschen zusammenarbeiten, kommt es zu Konflikten. Arbeitskollegen
können auch rasch zu Konkurrenten werden im Büro, im Betrieb, in der Forschung, in
der Schule.
a)
Versuchen Sie, verschiedene Verhaltenstypen, die Sie schon an Arbeitsplätzen
beobachtet haben, zu beschreiben und bewerten Sie Ihre Beobachtungen.
b) Wie beurteilen Sie in diesem Zusammenhang das Verhalten zwischen Männern
und Frauen am selben Arbeitsplatz?
c)
Gibt es geschlechtsspezifische Unterschiede?
d) Was ist gegen sexuelle Belästigung zu tun? usw.
(Denken Sie bitte auch an die sexuelle Belästigung von Männern!)
Literatur:
Michael Crichton: Disclosure, 1993
(Ein spannendes Buch über sexual harassement in der US-EDV-Industrie)
Moralische Fragen und Konflikte in literarischen Werken.
a) Lesen Sie ein literarisches Werk, dessen Thematik von der Verantwortung des
Naturwissenschaftlers/Ingenieurs handelt.
b) Schreiben Sie nach der Beschäftigung mit dem Buch einen Essay, in dem Sie (a)
Ursprung und Wesen des ethischen Konflikts beschreiben und (b) erklären, ob Sie
mit der getroffenen Entscheidung im Text einverstanden sind oder nicht, Ihre
Meinung selbstverständlich begründend.
Geeignete Texte dazu sind:
Bertolt Brecht, Leben des Galilei, 1943;
Friedrich Dürrenmatt, Die Physiker, 1962;
Heinar Kipphardt, In der Sache J. Robert Oppenheimer, 1964 (in diesen drei
Werken sind Physiker die Helden);
Max Frisch, Homo faber, 1957 (Maschinenbauingenieur, bei der UNESCO
tätig),
Uwe Timm, Der Schlangenbaum, 1986 (Bauingenieur in Südamerika);
Meinrad Inglin, Urwang, 1954 (Elektro- und Bauingenieure beim Bau des
Wägitaler Statisees);
12
M. Bongards
Technik & Ethik
Übungsaufgaben
Hans Boesch, Das Gerüst, 1960; Die Fliegenfalle, 1968; Der Kiosk, 1978; Der
Bann, 1996 (Menschen auf Baustellen, Wissenschaftler, Vermessungsingenieur);
Emil Zopfi, Kilchenstock, 1996 (Vermessungstechniker und Wissenschaftler:
Weiche Verantwortung tragen sie für ihre Prognosen und Informationen?
Das Buch kann als Metapher für das Spannungsfeld zwischen Wissenschaft und
Glaube gelesen werden.);
Beispiele aus der anglo-amerikanischen Literatur verzeichnet das Werk von
Samuel C. Florman, The Existential Pleasures of Engineering, Ne York 1976.
(Bitte machen Sie sich Gedanken und liefern Sie kein aufgepepptes Referat aus Ihrer
Schulzeit !)
Case studies an amerikanischen lngenieurfakultäten. Fallbeispiele aus
dem Internet.
Mit den gängigen Suchwerkzeugen AltaVista, Yahoo, Webcrawler können auf dem Internet
sehr rasch sehr viele und auch sehr brauchbare Fallstudien aufgesucht werden. Am besten
gibt man die englischen Begriffe Ethics in Engineering, Ethics and Science, Technology
Assessment, Controlling Technology, Environmental Ethics oder einfach den Oberbegriff
Engineering ein, von dort eröffnen sich zahlreiche Links zu Engineering Ethics, Code of
Ethics, Case studies, zu wichtigen Universitäten, Forschungszentren, Berufsverbänden usw.
Dutzende von Webseiten können dann geöffnet werden.
Ingenieurethik wird an vielen Ingenieurfakultäten in den USA angeboten, nicht zuletzt
wegen spektakulären Unfällen in vergangener und jüngster Zeit (Challenger disaster, the
Kansas City Hyatt-Regency Hotel walkways collaps, the Exxon oil spill), sie erscheint
gleichberechtigt zur Medizinethik, Wirtschaftsethik und Rechtsethik und etabliert sich nun
im Netz durch engagierte Hochschullehrer und neu zur Verfügung gestellten
Forschungsgeldern. Im deutschsprachigen Raum ist verhältnismassig wenig zum Thema
Ingenieurethik oder Technikfolgen-Abschätzung auf dem Netz; hier sucht man am
erfolgreichsten mit Yahoo.de mit den Begriffen Ethik, Technikethik oder
Technikphilosophie, so findet man die Ethikzentren, und mit Links können andere
Philosophie-Server, vor allem in den USA, angeklickt werden.
Zwei Beispiele ans den USA sollen hier anschaulich ausgeführt werden:
Michael S. Pritchard, Direktor des Center for Study of Ethics in Society der Western
Michigan University, hat mit seinen Mitarbeitern und unterstützt durch die National
Science Foundation über 50 praktizierende Ingenieure interviewt und rund 90 Fallbeispiele
aufs Netz geladen. Die Fallbeispiele (cases oder scenarios) werden alphabetisch in elf
Hauptkategorien eingeteilt: Acknowledging Mistakes, Conflicts of Interest, Dissent and/or
Whistleblowing, Environmental and Safety Concerns, Honesty and Truthfulness,
Organizational Communication, Ownership, Quality Control and Product Liability,
Responsibility Arising From What Others Do, Public Service, Women in Engineering.
Alle Beispiele werden ausführlich von verschiedenen Autoren kommentiert und z.T am
Schluss auf weiterführende Literatur verwiesen.
13
M. Bongards
Technik & Ethik
Übungsaufgaben
Die genaue Internet-Adresse: http://lowery.tamu.edu/ethics/
Auch die amerikanischen Berufsverbände sind auf dem Netz. So zum Beispiel die
National Society of Professional Engineers (NSPE). Sie bietet auch eine Vielzahl von
Fallbeispielen (cases) an, kategorisiert nach Disziplinen: Civil Engineering, Electrical
Engineering, Mechanical Engineering usw. Von dieser Seite sind wieder Links zu anderen
Universitäten, Zentren und Berufsverbänden, so zum Institute of Electrical and Electronics
Engineers (IEEE) angegeben. Bei letzterem findet man dann wieder Fallbeispiele, den
Code of Ethics des IEEE, Bibliografien usw.
Die genaue Adresse:
http://onlineethics.org/
Kommunikationstechnik und Ethik.
Der Zürcher Sozialethiker Hans Roh, der an der Berner Tagung «Ethik - ein Problem auch
für die Kommunikationstechnik» teilgenommen hat, organisiert durch die Ascom Tech AG
1993, formulierte in seinem Referat einige Maximen zur Kommunikationstechnik, die hier
auszugsweise wiedergegeben werden (H. Ruh, Thesenpapier, ungedruckt):
•
•
•
•
•
•
•
•
•
a)
Kommunikationstechnologie (KT) soll einen Beitrag zur Deckung der grundlegenden
Bedürfnisse leisten und dieser Deckung keinesfalls Ressourcen entziehen oder
kontraproduktiv wirken.
KT soll dem Menschen Sinnerfahrung, z.B. in der Bildung ermöglichen. Die
Unterstützung primitiver Trends ist problematisch.
KT soll die menschliche Handlungsfähigkeit unterstützen, z.B. in der Forschung
Medizin, Sicherheit, Bildung, Arbeitswelt.
Das Optimum zivilisatorischer Erleichterungen ist anzustreben, nicht das
technologische Maximum.
Interessant ist KT für neue Bildungssysteme.
KT soll eine dezentrale Wirtschaftsorganisation unterstützen (Arbeitszeitverkürzung,
Halbtagsstellen).
KT könnte bedeutsam werden für die Entwicklung neuer Sicherheitssysteme.
KT könnte eine zentrale Rolle spielen bei der Förderung des Bewegens von
Informationen zuungunsten der Bewegung von Personen und Gütern.
KT könnte interessant sein für die Erhöhung von Transparenz und Informationsgrad
zwecks Konsensbildung.
Das sind die Thesen Hans Ruhs zur Kommunikationstechnik. Sind das nun Ihrer
Meinung nach fromme Wünsche und hehre Ideale eines Ethikers, oder glauben Sie,
dass sich einige Maximen in der rasanten Entwicklung der KT verwirklichen ließen?
14
M. Bongards
Technik & Ethik
Übungsaufgaben
b) Wo sehen Sie neben den vielen juristischen Fragen, die sich in Zukunft für diese
Technologie ergeben, ethische Konfliktpotenziale?
Aufgabe 17
Der Ingenieur zwischen Berufsethos, Loyalität und Macht des Arbeitgebers.
Ein junger Ingenieur, der in einem großen Unternehmen der Elektrotechnik arbeitete, erhielt
den Auftrag, bei einem Kunden eine Störung in der von seiner Firma gelieferten Anlage zu
beheben. Unter den Augen des Kunden begann er, sich durch die komplexe elektronische
Steuerung durchzuarbeiten. Bald war er erfolgreich, zeigte nicht ohne Stolz dem Kunden
den behobenen Fehler, versäumte dabei auch nicht, die schlampige Projektierung und die
ungenügende Sicherung zu rügen. Selbstverständlich rief der Kunde bei der Firmenleitung
an und beschwerte sich über die Fehler der Anlage. Als der junge Ingenieur zurück ins Büro
kam, wurde er zuerst einmal in die Chefetage zitiert ... (nach Skudelny 1993, S. 241)
a)
Diskutieren Sie dieses Beispiel aus dem Leben unter den Gesichtspunkten der
Berufsethik und des Loyalitätsgebots.
b) Welche Ansprüche wurden Sie an eine Firma, bei der Sie arbeiten möchten,
stellen?
c)
Wie wurden Sie sich verhalten, wenn von Ihnen sittlich Bedenkliches oder gar
Verwerfliches verlangt wurde?
Literatur:
H.-Ch. Skudelny, Ethische Fragen im Berufsalltag des Ingenieurs. In: Verantwortung in
der Technik. Ethische Aspekte der Ingenieurwissenschaften, hrsg. v. S. M. Daecke;
K. Henning, Mannheim/Leipzig/Wien/Zürich 1993, S. 237-248.
Aufgabe 18
Berufskodizes. Was leistet ein Ethikkodex?
Die Ingenieurkodizes stehen meistens im Rahmen einer berufsständischen Organisation; das
Berufsethos spielt dabei eine gewichtige Rolle; in den USA haben Elektroingenieure bereits
1912 einen ersten Kodex verabschiedet. Heute existieren Dutzende von solchen Kodizes,
1991 hat die Schweizerische Akademie der Technischen Wissenschaften (SATW) in Bern
einen «Ethikkodex für Ingenieure/technische Wissenschafter>, herausgegeben. Daneben
existieren heute auch internationale Papiere, wie etwa die sog. „Karmel-Deklaration» von
1974, die von Wissenschaftlern vieler Nationen unterschrieben worden ist; im Vergleich zu
Sozialwissenschaftlern und Philosophen ist die Zahl der Ingenieure aber leider gering.
Durch neue Ethikkodizes in den USA, Deutschland (VDI) und der Schweiz (SATW) hat
sich dies allerdings heute korrigiert.
15
M. Bongards
Technik & Ethik
Übungsaufgaben
Die einfach gestellte Frage lautet: Was leisten solche Ethikkodizes? Dazu lohnt es sich, in
drei Stufen zu arbeiten:
a)
Studium der verschiedenen Kodizes und Deklarationen:
H. Lenk; G. Ropohl (Hrsg.), Technik und Ethik, Stuttgart 1987, S. 279-295 und
1993, S. 313-333.
Kodizes von Berufsverbänden/Codes of Ethics sind auch auf dem Internet schnell
zu finden. Die amerikanischen Codes findet man übersichtlich dargestellt im
Etbics Center for Engineering and Science (Internet-Adresse:
http://web.mit.edu/ethics/www).
b) Kritische Reflexion, eigene Meinung, Leistungen und Grenzen solcher Papiere.
c)
Literaturstudium zum Thema
H. Lenk, Was leistet ein Ethikkodex. In: Ders., Macht und Machbarkeit der
Technik, Stuttgart 1994, S. 85-112. Ders., Ethikkodizes für Ingenieure.
Beispiele der US-Ingenieurvereinigungen. In: H. Lenk; G. Ropohl 1987, S.
194-221.
R. Capurro, Ethik-Kodizes. Ein intellektueller und moralischer Irrweg oder eine
sinnvolle und nötige Einrichtung? In: Informatik und Philosophie, hrsg. v. P.
Schefe er al., Mannheim/Leipzig7Wien/ Zürich 1993, S. 128-131.
P. Knoblauch, Ethik für Ingenieure/technische Wissenschafter (SATW). Weshalb
ein Ethik-Kodex heute. In: SIA, Nr. 7 (1993) S. 107f.
D. G. Johnson (Hrsg.), Ethical Issues in Engineering, New Jersey 1991, S. 93-154.
Aufgabe 19
Historischer Fall 1: der Pinto-Skandal.
Der folgende Text ist nach Lenk; Ropohl 1987, S. 198f. zusammengefasst worden; über den
Fall ausführlich berichtet hat Mark Dowie 1977, abgedruckt bei Baum 1980, S. 167-174.
Die Ford Motor Company stand mit den Volkswagen-Werken im scharfen
Konkurrenzkampf Übereilt wurde der Kleinwagen Pinto entwickelt. Bei den Tests der
Prototypen zeigte sich ein gefährlicher Mangel: Bei Auffahrunfällen zerbrach der Tank, und
die Wahrscheinlichkeit, dass dies zu einem Brand führen musste, war sehr hoch. Die Tests
wurden geheimgehalten, und die Firma weigerte sich, die von den Ford-Ingenieuren
vorgeschlagenen Verbesserungen (Plastikpufferung mit Kosten von 11 Dollar pro Wagen)
einzubauen, weil das Management nach einer Kosten-Nutzen-Analyse zum Schluss kam,
dass diese Einbauten mehr Kosten verursachten als die berechneten Kosten
(Schadensbegleichung, Prozesskosten) für die Auffahrunfälle mit Toten und
Schwerverletzten. Sie gingen von jährlich durchschnittlich 180 Toten und Verletzten,
zudem von 2100 verbrannten Wagen aus. 1977 waren fast 20 Millionen dieser
hochgefährlichen Kleinwagen ausgeliefert; es kam zu Tausenden von Unfällen, in vier
16
M. Bongards
Technik & Ethik
Übungsaufgaben
Jahren starben rund 9000 Menschen - häufigste Todesursache: Verbrennungsfolgen. Die
Ford-Lobby konnte zuvor die in den USA kurz vor der Einführung stehende Sicherheitsnorm
acht Jahre verzögern. Zudem gelang es ihr, die Versicherungsfragen im Zusammenhang der
Unfälle über Jahre zu verschleppen. Beides bedeutete für die Firma: Gewinn. Später sagte
ein leitender Ingenieur, der gefragt wurde, warum kein Widerstand in der Firma aufkam:
«Ein Nörgler wäre sofort entlassen worden, Sicherheit war kein Thema.» Oder wie der
leitende Manager der Ford Company zu sagen pflegte: «Safty doesn't sell.»
a)
Besprechen Sie diesen Fall, der in den amerikanischen Ingenieurvereinigungen
dazu geführt hat, dass man unsanft auf ethische Aspekte aufmerksam geworden ist.
b) Wer hat hier moralisch versagt? Diskutieren Sie Managementmacht und
Ingenieurmacht, Firmenloyalität, Gewissen, Verantwortung gegenüber der
Öffentlichkeit usw.
Literatur:
M. Dowie, Pinto Madnes. In: R. Baum; A. Flores (Hrsg.), Ethical Problems in
Engineering. Bd. 2. Cases, Troy/New York 1980, S. 167-174.
H. Lenk; Gunter Ropohl, Technik und Ethik, Stuttgart 1987 u. 2. rev. und erw.
Auflage 1993, S. 198 218.
Aufgabe 20
Historischer Fall II: der Fall DC 10.
Kurz zusammengefasst nach Lenk; Ropohl 1987, S. 199f., beschrieben wurde der Fall
durch Stephen H. Enger, abgedruckt, in: Flores 1980, S. 56-69.
Ein leitender Ingenieur einer Fluggesellschaft wies 1972 darauf hin, dass die DC 10 eine
gefährliche Schwachstelle habe, denn die nur von außen zu versiegelnde Frachtraumtüre
beeinträchtige die Steuerfähigkeit des Flugzeuges. Er erließ darauf ein Memorandum,
welches aber das oberste Management unterdrückte. Die Herstellerfirma erwirkte bei
der staatlichen Aufsichtsbehörde, dass die DC 10 nicht aufgrund staatlicher Auflagen
außer Betrieb genommen werden musste, verpflichtete sich aber, alle ausgelieferten
Maschinen zu verbessern. Installiert wurde dann schließlich bloß ein kleines
Guckfenster über den Türhebeln, durch das man von innen feststellen konnte, ob die
Türe von außen wirklich geschlossen war. Allerdings vergaß man bei drei der bereits
fliegenden DC 10 dieses Sicherheitsfenster.
Kaum zwei Jahre später passierte das Unglück. Am 3. März 1974 brach über Paris in
4000 Metern Höhe eine solche vergessene, ungesicherte Tür einer DC 10 auf, der
Rumpf barst, und alle 346 Menschen starben im bis dahin größten Unglück der zivilen
Luftfahrt.
Auch bei der DC 10 waren Übereilung und Konkurrenzkampf im Spiel. Die Warner
wurden nicht ernst genommen, obwohl sie das oberste Management erreichten. Auch in
17
M. Bongards
Technik & Ethik
Übungsaufgaben
diesem Fall spielten handfeste wirtschaftliche Überlegungen eine ausschlaggebende
Rolle, die zur Ablehnung des Memorandums des Ingenieurs, der sich allerdings
zusammen mit andern Kollegen später nicht mehr weiter darum kümmerte, führten.
Besprechen Sie diesen Fall unter ethischen Aspekten
Literatur:
R. Baum; A. Flores (Hrsg.), Ethical Problems in Engineering, Bd. 1. Readings,
Troy/New York 1980, S. 56-69.
H. Lenk; Gunter Ropohl, Technik und Ethik, Stuttgart 1987 u. 2. rev. und erw.
Auflage 1993, S. 199-218.
Aufgabe 21
Historischer Fall III: der Fall BART.
Zitiert nach Lenk; Ropohl 1987, S. 200f.:
«Die Firma Bay Rapid Transit (BART) war mit dem automatischen Zugskontrollsystem für
den Nahschnellverkehr an der San Francisco-Bay befasst. Die drei Ingenieure Hjortsvang,
Blankenzee und Bruder hatten bereits in der Planungsphase auf schwerwiegende Mängel und
zu billige Ausführung des Systems aufmerksam gemacht, das öffentlich als das weltbeste
und sicherste angekündigt worden war - von Managern, die keinerlei Kenntnisse über
Systemanalyse besaßen. Das System, das die Herstellerfirma eingebaut hatte, war, wie
verschiedene unabhängige Berichte später ergaben, keineswegs sicher. Die Ingenieure
hatten zu Recht ihre Vorgesetzten gewarnt und waren dann an den Vorstand herangetreten.
Ein Vorstandsmitglied (zugleich der Bürgermeister), nicht die Ingenieure selbst, hatte die
Lokalpresse informiert. Firmenintern waren die Versuche der Ingenieure stets als unsinnig
und übertrieben abgelehnt worden. Nach der Veröffentlichung wurden sie ohne Abfindung
und Begründung entlassen. Sie wandten sich an die Landesingenieurvereinigung, die sich
selbst und ihre regionale Vereinigung für die Ingenieure einsetzte - vergeblich.
Der Fall erlangte für die Öffentlichkeit erst dann Bedeutung, als ein Zug aufgrund des
Versagens des Sicherheitssystems verunglückte und es einige Verletzte gab. Aus einem
ähnlichen Unfall während der Testphase und ohne Personen waren keinerlei Konsequenzen
gezogen worden. Alle späteren unabhängigen Studien bestätigten [jedoch] die
Berechnungen und Warnungen der Ingenieure.
Nach den Ethikkodizes gab es keine Anzeichen, dass diese in irgendeiner Weise
unangemessen gehandelt hätten. Im Gegenteil: Sie hatten die Verantwortung des Ingenieurs
gegenüber der Gesellschaft im Interesse des Gemeinwohls ernst genommen. Das Verfahren,
obwohl gut dokumentiert und durch ein 'brief' des Institute of Electrical and Electronics
Engineers unterstützt, wurde wegen eines für die Gesamtproblematik und das eigentliche
Verhalten der Ingenieure belanglosen Formfehlers eingestellt (sie hatten fälschlicherweise
dem Management gegenüber verschwiegen oder abgeleugnet, dass sie die Intervention des
Direktor-Bürgermeisters angeregt hatten).
18
M. Bongards
Technik & Ethik
Übungsaufgaben
BART bot den Ingenieuren einen außergerichtlichen Vergleich an, der für sie
keineswegs besonders vorteilhaft war, aber aufgrund ihrer finanziellen Notlage und
ungesicherten Stellung angenommen wurde. BART-Manager [erschwerten] sogar die
Arbeitssuche eines der Betroffenen, indem sie ihn als 'troublemaker' verunglimpften.
Ein unabhängiger Sachverständiger bezeichnete Hjortsvang später als 'einen sehr
ehrlichen Ingenieur, der rücksichtslos geopfert worden sei.
Sechs Jahre danach erhielten die drei Ingenieure den ersten Preis der Vereinigung der
Elektroingenieure für hervorragenden Dienst im öffentlichen Interesse in Gestalt einer
Urkunde und 750 Dollar!
a)
Besprechen Sie diesen Fall und diskutieren Sie das moralische Verhalten aller
Beteiligten in den verschiedenen Phasen; ziehen Sie, wenn möglich, auch
Vergleiche zum Fall Pinto und DC 10. (Aufg. 19 und 20)
b) Ferner lässt sich an diesem Fall studieren, wie sich die verschiedenen
amerikanischen Ingenieurvereinigungen (CSPE; NSPE; IEEE) dazu verhalten
haben und welche Konsequenzen sie daraus zogen, siehe dazu MacCormac 1987.
Allgemein aufschlussreich zu dieser Problematik der Wahrnehmung bzw.
Vernachlässigung der Verantwortung der Ingenieure siehe auch Kenneth D. Alpern
1983.
Literatur:
K. D. Alpern, Ingenieure als moralische Helden (eng.: Engineers as moral Heroes.
In: V. Weil [Hrsg.] Byond Whistleblowing. Defining Engineer's
Responsibilities. Proceeding of the Second National Conference on Ethics in
Engineering, Chicago 1983, S. e-51). In:
H. Lenk; G. Ropohl, Technik und Ethik, Stuttgart 1987, S. 177-193.
H. Lenk; G. Ropohl, Technik und Ethik, Stuttgart 1987 u. 2. rev. und erw.
Auflage 1993, S. 200-218.
E.R. MacCormac, Das Dilemma der Ingenieurethik. In: H. Lenk; G. Ropohl,
Ethik und Technik 1987, Stuttgart 1987, S. 230ff.
Aussagekraft von Daten.
Die amerikanische Fernmeldekommission (U.S. Federal Communications Commission,
FCC) schreibt fest, dass nach Artikel 15j jedes digitale Gerät (mit wenigen Ausnahmen), das
in den USA produziert wurde, bestimmten Anforderungen genügen muss. Der Hersteller
muss ferner jedes neue Gerät testen lassen: Die FCC-Grenzwerte bezüglich
elektromagnetischen Emissionen, die vom Gerät ausgestrahlt werden, dürfen hierbei nicht
überschritten werden. Die erhaltenen Messwerte werden zur Zertifizierung der FCC
eingereicht. Da die FCC jedoch nur relativ wenig Leute zur Verfügung hat, die diese
Anträge überprüfen können, sind diese Prüfungen größtenteils Vertrauenssache, was die
19
M. Bongards
Technik & Ethik
Übungsaufgaben
Korrektheit anbelangt. Die FCC gibt nach der Zertifizierung eine Identifikationsnummer
(ID) heraus, die anschließend auf jedes Gerät ausgedruckt werden muss, d.h. sobald ein
Gerät diese ID besitzt, ist man bevollmächtigt, dieses Gerät herzustellen. Ohne diese ID darf
allerdings der Hersteller weder für das Produkt werben noch es zum Kauf anbieten.
Ein Verantwortlicher für elektromagnetische Verträglichkeit (engl. electromagnetic
compatibility, EMC) nimmt ein neues Antennensystem in Betrieb. Er findet dabei
heraus, dass die neue Antenne durchwegs höhere E-Feld-Messungen ergibt, als dies bei
der alten der Fall war. Beide wurden am Messplatz speziell geeicht und lagen in den
zulässigen Toleranzen, beide Verkäuferinnen berufen sich auf das National Institute of
Standards and Technology, welches nachweislich das Produkt zertifiziert hatte. Wir
können also nicht schlüssig herausfinden, welches Syrern uns besser das absolute
Resultat liefert. Bevor ein neues Produkt für einen Kunden nach den FCC-Normen
gemäss 15j getestet werden könnte, müsste dieser Messfehler behoben werden; doch
dazu fehlt aber die nötige Zeit.
Fragen zur Diskussion:
a)
Welches Antennensystem sollte man für den Test des neuen Produktes verwenden?
b) Wäre es ethisch vertretbar, diese beiden Resultate zu mitteln, wenn
Ingenieurmeinungen diese Handhabung anerkennen?
c)
Angenommen, dieses Messlabor sei nie genau eingestellt worden; müsste diese
Tatsache der FCC freiwillig mitgeteilt werden?
(Dieses frei erfundene Fallbeispiel stammt aus: Speaker's Guide for the Presentation: «How to Be
a Good Engineer“, prepared by Joseph H. Wujek and Deborah G. Johnson, Washington, DC
1992, p. 11. Die Unterlagen sind im Auftrag der Ethikkommission des Institute of Electrical und
Electronics Engineers, IEEE, entstanden. Die deutsche Übersetzung besorgten Studenten der
Elektrotechnik der Ingenieurschule Brugg-Windisch.
Zu finden im Internet unter:
http://onlineethics.org/
Der spezielle Fall unter:
http://www.onlineethics.org/text/essays/scenarios.html
20
M. Bongards
Technik & Ethik
Übungsaufgaben
Aufgabe 23
Sicherheit am Arbeitsplatz.
Sie arbeiten als Ingenieur in einer Fabrikanlage, die giftige Chemikalien
in Arbeitsprozessen verwendet. Ihr Job hat aber nichts zu tun mit dem
Gebrauch oder der Überwachung dieses Stoffes. Die Chemikalie „Mega X" wird bei
einem Produktionsvorgang verwendet. Kürzliche Medienberichte beschrieben die
Gefahr von genetischen Veränderungen oder Schäden über größere Zeiträume durch
Inhalation oder beim Kontakt mit der Chemikalie. Die Meldung wurde weder bestätigt
noch dementiert. Bundes- sowie Lokalstellen gaben keine Erklärungen zum Thema ab.
Verschiedene Mitarbeiter haben Sie kürzlich kontaktiert bezüglich des Gebrauchs von
«Mega X». Sie erwähnen deren Besorgnisse Ihrem Chef, welcher aber alle Bedenken
zurückweist und sagt: «Keine Sorge, wir haben eigene Sicherheitsexperten, die sich
darum kümmern.» Zwei Monate verstreichen und „Mega X“ wird immer noch
verwendet. Die Kontroverse wird nun auch in der Presse fortgesetzt, aber es tauchen
keine Beweise, die gegen die Verwendung von «Mega X» sprechen, auf. Der Verbrauch
der Chemikalie hat in der Fabrik unterdessen sogar zugenommen, und noch mehr
Arbeiter sind täglich der Substanz ausgesetzt.
a)
Was - wenn überhaupt - wurden Sie tun?
b) Nehmen wir an, Sie erwähnen die Problematik noch einmal bei Ihrem Chef. Er
aber sagt nur: «Vergessen Sie die Angelegenheit, it's not your job!» Was jetzt?
c)
Ihre schwangere Schwester arbeitet mit der Chemikalie. Wie lautet da ihr Rat?
d) Die Firma kündigt einen freiwilligen Verwendungsstopp der Chemikalie über die
nächsten zwei Jahre an. Wie reagieren Sie darauf?
e)
Ein Angehöriger einer lokalen Aktivisten-Gruppe nimmt Kontakt mit Ihnen auf und
bittet Sie um Information über die Menge der verwendeten Chemikalie in der
Fabrik und den Arbeitsbedingungen, die damit zusammenhängen. Geben Sie
solche Informationen? Warum oder warum nicht?
(Dieses frei erfundene Fallbeispiel stammt aus: Speaker's Guide for the Presentation: How to Be
a Good Engineer-, prepared by Joseph H. Wujek and Deborah G. johnson, Washington, DC
1992, p. 11f. Das Beispiel wurde durch Lee Hornberger, Universität Santa Clara vorgeschlagen,
veranlasst durch Asbest-Ereignisse in den USA; ein Thema, das auch in Deutschland noch nicht
erledigt ist. Die deutsche Übersetzung besorgten Studenten der Elektrotechnik der
Ingenieurschule Brugg-Windisch.)
21
M. Bongards
Technik & Ethik
Übungsaufgaben
Aufgabe 24
Produktionsfehler: Freiwilliger Rückruf?
Sie arbeiten bei der Zilch Materials Corporation als Testingenieur.
Kürzlich hat die Firma ein neues Zweikomponenten-Giessharz «Megazilch» eingeführt. Es
wurde, so glaubte man, von der Firma und einigen ausgewählten Kunden gut getestet. Alle
Testresultate, welche vor der Produktionsaufnahme vorlagen, erfüllten die publizierten
Spezifikationen. Das Material übertraf mit seinen Eigenschaften und den niedrig
geschätzten Kosten alle andern im gleichen Anwendungsbereich. Mögliche oder schon
eingeführte Anwendungsbereiche umfassen Kinderspielzeuge, Büroausstattungen,
Innenausstattung von Flugzeugen und - als Gehäusematerial - viele elektronische Geräte.
Das Marketing schätzte einen Ertragszuwachs von 25% im ersten Jahr nach Aufnahme der
Serienproduktion.
Die Produktion ist in vollem Gange und große Mengen werden ausgeliefert, als Sie mit
Schrecken feststellen, dass unter gewissen Lagertemperaturen und anderen noch
unbekannten Faktoren die Lagerfähigkeit stark beeinträchtigt wird. Insbesondere werden die
Anforderungen an die Brandhemmung nicht mehr erfüllt, wenn es 60 Tage vor dem Mischen
gelagert wurde, obwohl in den Publikationen 24 Monate angegeben wurden. Ebenso ist die
Zugs- und Druckfestigkeit wesentlich reduziert. Beträchtliche Mengen wurden ausgeliefert,
deren Vorgeschichte in Bezug auf Temperatur und Alter nicht mehr feststellbar ist. Ein
Rückruf wurde für die Firma große finanzielle Verluste bedeuten und sie in Finanznöte
bringen. Zu diesem Zeitpunkt ist es noch nicht klar, ob die Lagerfähigkeit verbessert werden
kann. Nur Sie und ein Ihnen unterstellter Testfachmann haben Kenntnis des Problems.
Nehmen Sie an, dass keine schnelle Abhilfe möglich und das Problem ernsthaft ist.
a) Wie würden Sie in dieser Situation handeln?
b) Nehmen Sie an, Sie hätten Ihre Sorge Ihrem direkten Vorgesetzten mitgeteilt, worauf
dieser Ihnen sagt: «Keine Sorge, das ist keine große Sache. Wir können das später
beheben. Überlassen Sie mir diese Angelegenheit.»
c) Nehmen Sie ferner an, dass seit Ihrem Gespräch mit Ihrem Vorgesetzten mehrere
Wochen verstrichen sind, ohne dass etwas geschah. Was nun?
d) Im Falle (c) wurden Sie den Vorgesetzten daraufhin ansprechen. Dieser erklärt Ihnen:
„Ich habe mit den leitenden Angestellten gesprochen und sie stimmen zu. Wir werden
das Produkt weiterhin ausliefern und am Problem arbeiten. Dies haben wir bereits in
die Wege geleitet.“ Unternehmen Sie etwas? Wenn ja, was?
e) Seither sind drei Monate vergangen und eine Stichprobe des versandfertigen Materials
zeigt Ihnen, dass nichts unternommen wurde, um das Problem zu beheben. Wie
reagieren Sie darauf?
(Dieses frei erfundene Fallbeispiel stammt aus: Speaker's Guide for the
Presentation: -How to Be a Good Engineer, prepared by Joseph H. Wuiek and
Deborah G. Johnson, Washington, DC 1992, p. 13f. Die deutsche Übersetzung
besorgten Studenten der Elektrotechnik der Ingenieurschule Brugg Windisch.)
22
M. Bongards
Technik & Ethik
Übungsaufgaben
Aufgabe 25
Nicht-ionisierende elektromagnetische Strahlen, Elektrosmog».
Wir Menschen sind verschiedenen Strahlen ausgesetzt. Unter den elektromagnetischen
Strahlen unterscheidet man zwischen den niedrigen Frequenzen, die von
Hochspannungsleitungen stammen können, und höheren Frequenzen, von Radio- und
TV-Sendern, von Computern, elektrischen Haushaltsgeräten und Mobiltelefonen
verursacht. Die umstrittene Frage ist die, inwieweit solche Felder - ist ihnen der
Mensch permanent ausgesetzt - gesundheitsschädigend wirken. Darüber existiert heute
bereits eine breite wissenschaftliche Debatte; aktuell wird das Thema besonders dort,
wo neue Hochspannungsleitungen durch ein dicht besiedeltes Gebiet geführt werden.
Wo liegt hier das ethische Problem, geht es doch scheinbar um technische und allenfalls
raumplanerische Probleme? Die Ethik spielt in diesem Moment eine Rolle, wenn es
darum geht, Grenzwerte zu bestimmen. Es ist bekannt, dass beim Mobiltelefon die
Grenzwerte soweit nach oben geschoben worden sind, dass das technisch Machbare
dann jeweils gerade tolerierbar war. Beim Bau einer Hochspannungsanlage werden die
Grenzwerte erst nach den Leitungen eingeführt und basieren auf diversen Annahmen.
In der Schweiz steht man erst am Anfang einer Gesetzgebung, in Deutschland sollen
erstmals gesetzliche Grenzwerte festgelegt werden; doch von einer EU-Richtlinie ist
man weit entfernt (vgl. Neue Zürcher Zeitung, 10. Oktober 1995, S. 14.)
a)
Wie verhalten Sie sich als Elektroingenieur generell gegenüber solchen
Grenzwertverschiebungen?
b) Welches Verhalten ist gegenüber dem Elektrosmog angebracht, und wie klären Sie
die Leute über diese Art von Strahlung auf? Was scheint Ihnen moralisch geboten?
Literatur:
M. Karus er al., Elektrosmog. Gesundheitsrisiken, Grenzwerte,
Verbraucherschutz, Heidelberg 1995.
H. P. Neitzke et al., Risiko Elektrosmog? Auswirkungen elektromagnetischer
Felder auf Gesundheit und Umwelt, Basel 1994.
K. Sievers, Elektrosmog die unsichtbare Gefahr, München 1997.
23
M. Bongards
Technik & Ethik
Übungsaufgaben
Aufgabe 26
The Backwards Math
Jay's boss is an acknowledged expert in the field of catalysis. Jay is the leader of a group that
has been charged with
developing a new catalyst system, and the search has narrowed to two possibilities, Catalyst'
A " and Catalyst "B'.
""The boss is certain that the best choice is" A ", but he directs that tests be run on both, 'just
for the record." Owing to inexperienced help, the tests take longer than expected and the
results show that "B" is the preferred material. The engineers question the validity of the
tests, but because of the project's timetable, there is no time to repeat the series. The boss,
therefore, directs Jay to work the math backwards and come up with phony data to
substantiate the choice of Catalyst" A " a choice that all of the engineers in the group,
including Jay, agree with. Jay writes the report.""
Consider the following with regard to the case of The Backwards Math:
1. What would you have done had you been Jay? Would you have written the report?
2. If you had refused to write the report, how could you have justified this refusal since
you, along with all of the others on the team, felt that the test data was invalid and
there was not time to duplicate the test? Is it not likely that experience is a better
guide than one set of questionable test data? If yes, does this impact on the ethical
nature of the dilemma?
3. Would it have been a good idea to write the report and also write a memo saying that
you were being directed to do something which was unethical? If you did this, would
it be done just to cover you if you are found out? Would that make what you did any
more ethical than it would have been without the memo?
4. How about the alternative of writing the report, but not signing it? Would this be a
satisfactory solution to your ethical dilemma?
5. Is this a case in which you would become an '"internal"' whistleblower by going over
your boss" head and reporting that you had been asked to write a false report?
If none of the above options seem to be a satisfactory action, go back to Question 1 and think
again. What would you have done?
Aus: Murdough Center for Engineering Professionalism
Texas Tech university
Lubbock, Texas
24
M. Bongards
Technik & Ethik
Übungsaufgaben
Joseph H. Wujek
College of Engineering
University of California, Berkeley
Introduction
You are an engineer employed by Wondrous Avionics, Inc. (WA, Inc.). You are working on the project team
developing the Mark-5, a new device in the prototype stage. The Mark-5 is a system for airplane altitude
control combined with navigation. It has 116 input variables: X1, X2, ... X6. Each Xi can take on any of the
values permitted by a 32-bit word. Each Xi is sampled simultaneously for 20 nanoseconds every 1.30
milliseconds. Sampling at 1.30 milliseconds is the fastest possible due to the actuation and settling time of the
electro-hydraulic mechanisms controlled by the Mark-5. Each of the possible totality of states of the Xi
corresponds to one, and only one, configuration of aircraft control surfaces and resultant aircraft altitude, Yj .
Thus, Yj = f[X1, X2, ... X116] in one-to-one correspondence. The Mark-5 outputs one value of Yj in each 1.30
ms intervals.
The output variable Yj is generated by software, using a program which resides in firmware in the Mark-5. The
software result actuates appropriate hardware drivers to actuate the hydraulic mechanisms.
In response to concerns from potential users of the Mark-5 regarding the use of software in safety-critical
systems, the CEO tells the project team, "The Mark-5 must be tested in all possible states to be sure that the
software always works. Our customers are nervous about using software this way. I want us to answer their
concerns by demonstrating, by test, that the Mark-5 gives the right output for each combination of inputs. After
all, under some conditions the wrong output could cause a plane to crash!"
Questions
(a) Assuming that the test speed is limited only by the 1.30 millisecond cycle time of the Mark-5, how long in
hours would it take to perform the test desired by the CEO? Assume the test proceeds as fast as possible and
without interruption, 24 hours per day, 7 days per week.
(b) Same as (a), but assume three bugs were found, and each took two days to find and fix. Assume that the
bugs were found at the 1/3, 2/3 and 99% complete points. The test must be run in its entirety after each bug fix.
(c) WA estimates that it will cost $700 per hour to run the test. Compute the cost of the test in part (a) and
part(b).
(d) Suppose it is decided that, instead of a 32-bit word, an 8-bit word is sufficient. Assume because only the
software is being tested, not and the integrated system, the test cycle time can be reduced from 1.30 millisecond
to 130 nanosecond. Rework part (a) with these design/test changes. (Is this a good assumption to make?)
(e) In your view, what would be a "reasonable" test to run on the Mark-5 system?
(f) Should the Mark-5 be built and offered for sale? What ethical principles support your conclusion?
25
M. Bongards
Technik & Ethik
Übungsaufgaben
Aufgabe 28
I. Introduction
You are a college engineering student experimenting with a new PDA (hand-held computer) you have just
purchased from a reputable manufacturer, ARC.(1) The machine has been bundled with a variation of a popular
spreadsheet (SS) product custom-built to run in a small amount of ROM (firmware) provided in the unit. While
experimenting with this SS, you find that a simple calculation such as $3 + 1 cent is displayed as 3.00 on the
LCD panel.
II. Numerical and/or Design Problem(s)
1. Is this reasonable? How would you verify this claim? Is it likely this is the only calculation which displays an
incorrect result?
2. What possible explanation(s) could there be for this? Propose an experiment to test/verify your suspicions as
to the source/cause of this problem.
3. Later you conclude the display is indeed incorrect, but the internal representation of $3.01 is as exact as
possible using binary floating-point representations in any format. Nevertheless, the displayed result on the
LCD screen is indeed 3.00.
4. Does this resolve the problem? Does this eliminate (or amplify) any problems of floating-point
representation of dollar and cent results?
5. You soon discover all calculations of the form X + .01 for any integer X will produce a representation on the
display of X.00.
6. What does this tell you as a young (or old) engineer/numerical analyst?
7. Finally, you call the manufacturer. You are unsure whether this is a hardware bug, a software bug, or an error
in your interpretation.
8. What possible responses would you speculate they might give to your inquiry (and possible demand for a
replacement PDA)? Discuss as a class, putting suggestions on the board or list on your own. Come up with at
least five suggestions.
III. Questions on Ethics and Professionalism
Following are several possible vendor responses, at least one of which has occurred in a documented recent
case.
A. "We don't believe you as we have never heard about this problem."
B. "We didn't know about this problem."
C. "We know about it, but we don't plan to do anything about it as this model/release will soon be
discontinued."
D. "We know about it, but it is really an operating system/software vendor/spreadsheet design problem."
E. "We know about it and are working on resolving it."
F. "We know about it, and it will be fixed/resolved in the next version/release of the product."
G. "We will/will not replace the product at your request."
1. Discuss the ethics of each of these responses from the view of the student, hardware vendor, and/or software
supplier (assuming the SS is purchased from a VAR (value-added reseller).
2. Suppose you are the help-desk person working at the receiving end of this call from the college student. How
would you respond to the inquiry and what is your corporate/personal responsibility in this matter? What
corporate responsibility is there which you must/should represent when discussing this problem with the
student? With your boss?
3. Suppose you are the design engineer for the ARC company. How would you respond to this situation?
Would you respond differently if you were an employee of a software vendor and this occurred in a new
product such as WIN 95?
4. Create a scenario where this problem could result in a serious matter causing personal or corporate injury or
significant expense. Whose liability would it be if such a tragic event occurs, and whose ethical responsibility
would it be?
5. Is this a problem which might occur with decreasing or increasing regularity? (MTBO -mean time between
occurrences)
26
M. Bongards
Technik & Ethik
Übungsaufgaben
I. Introduction
You are a citizen of Southern Antarctica and are employed as an engineer working for a small company that
manufactures a keychip/component/valve for a very lethal, defensive military weapon. As the only supplier of
this device, there is a potential for world-wide sales to over 200 countries and, surprisingly, there is no legal
restriction to the export and marketing of this component to other countries.
The president of your company has asked you to perform a cost-benefit analysis of selling this component,
assuming the following information:
1. 50% of the interested countries will actually purchase this device and pay for it.
2. Each purchaser will probably buy 500 to 10,000 of the defensive weapons.
3. Each weapon contains 500 pieces of the component your company makes and sells.
4. Since this is a complex component, your company will net about $1,000 per component sold.
5. Although this weapon is considered unlikely to ever be used in battle ("one chance in a million"), the
expected loss of life is believed to be 50 to 500 lives for each use of the weapon.
6. Because this weapon is hoped to be defensive and should discourage an aggressor, it is assumed that
only one or at most two will ever be used.
1.
In doing your cost-benefit analysis, what assumptions will you make in order to determine: the cost
for each life lost? the profit to your company?
2.
What type of analysis could you develop? How do you feel about this type of risk- benefit analysis?
3.
State formally all of your additional assumptions, and compute a profit per person killed (P^3K) or
profit per loss of life. Are there other calculations you can create which your company would find
instructive when doing this analysis?
4.
After completing your calculations, discuss your assessment and conclusions. What conclusions do
you draw from them? Do you believe these results, and the assumptions made? Do you have
confidence in your conclusions? Are there other comments or observations you wish to make about
this problem?
1.
Are you willing to work for a company that makes such a device? Did you know about this product
when you were hired, and did you consider the pros and cons in making your decision to take this
position?
2.
What is the value placed on human life and does it vary in different parts of the world? If such a
difference does exist, might it explain or have an impact on the Union Carbide case in India?
3.
What assumptions would you make about countries or governments that might purchase this
device? Also, what assumptions would you make regarding countries most affected by the weapon's
use?
4.
Would it make any difference if most of the buyers were Third World countries that plan to
purchase this weapon to defend themselves against major world powers?
5.
What if China were the primary country focused on by other countries (given its 1.2 billion
people)? Would this change your views on the case?
6.
Imagine you were an electrical engineer. This component was a key electronic microprocessor.
(The numbers remain the same.) Would this new situation change your attitudes or your
conclusion(s)? Similarly, what if you were a software engineer and your code was the key to this
system?
27
M. Bongards
Technik & Ethik
Übungsaufgaben
Aufgabe 30
I. Introduction
A Buffalo Computing Co.(ABC2) located in Fargo, ND, has designed a chip for a new scientific calculator that
features high-precision floating-point accuracy to 17 significant digits for all 250 mathematical functions
provided with the unit. After one-and-a-half years in development, and after shipping over 500 (or 5,000) beta
units to key customers, the company discovers that there is a problem with certain calculations, as described
below.
In order to expedite floating-point(ft.-pt.) operations (used in handling scientific notation in mathematical
operations) in a computer or calculator, often certain tables of values are used to assist in the speed of
execution of these ft.-pt. operations. (For example, a calculator requiring as long as 3 minutes to perform a
tangent calculation would have no market appeal.) These tables can contain up to 100 integer entries. During
beta testing, ABC2 discovers that several of these values were incorrectly entered before burning them into the
firmware. Further testing concludes that because of the location and use of these table errors, the only
mathematical results affected will occur in the 13th to the 17th significant digits for the double-precision fl.-pt.
operations.
II. Numerical and Design Problems
7. As the senior engineer on this project for ABC2, you are asked to propose a resolution for this
situation. How serious is the problem? What should be done?
8. Call together a committee of your peers and have the group propose as many different alternative
solutions as you can think of within 10-15 minutes. (Do not assign any value or determine the
implications of this proposed solution for now--instead, use the blue-sky or "popcorn" approach.)
9. Now, try to project each option's impact on the company.
10. Assign a weighted value (0-100 with 100 as best) to each of the suggestions and resulting actions
proposed above, based on your personal assessment or your peer group's assessment of the quality of
the action.
11. Determine the best possible course of action and explain the reasons for your choice, based on the
weightings given above or other criteria you create and document.
12. Write this up in a detailed memo with explanations (2-3 pages), or imagine yourself the senior
engineer on the project and write a detailed dialogue with the senior manager(s) deciding what
action(s) to take.
5.
Are your answers to the above questions the same regardless of whom you represent? In other
words, does one's response change depending on one's stake in the solution? (e.g. company managers,
stockholders, engineers in the firm, engineers hoping to use the chip, purchasers of the product, etc.)
6.
Suppose the chip has been installed, 100,000 units have been sold, and an additional 50,000 are on
dealers' shelves. Create a new list of possible actions and reactions.
7.
Do you see any relationship to the Challenger decision(s)?
IV. Proposed solution to the ethical issues raised
Possible Suggestions to Q#2
7.
Cancel the project.
8.
Change the display to 13 digits.
9.
Redesign the chip.
10.
Since the problem will only occur infrequently, simply ignore it. Is this dangerous or risky? Why?
11.
As it will only occur every 20,000 years to the typical user, no one should be concerned.
12.
Suggest an advertising slogan with a buffalo logo of "Our chip is a lot of bull!"
Possible Implications in Q#3
1. Since ABC2 is "staking" their future on this Buffalo chip, this could destroy the company.
2. This can be done, but it makes the unit far less competitive, and is not consistent with specifications or
with advertising claims.
3. This solution will cause a year delay and the competitive edge will be lost.
4. Who really are the affected users? Won't this result in a significant liability for any errors which
occur?
5. Funny, but probably fatal to the company!
28
M. Bongards
Technik & Ethik
Übungsaufgaben
NOTE: This list can go on and on with follow-up detailed, subsequent decisions and scenarios, many of them
based (loosely) on the Intel Pentium chip case.
V. Appendices, Attachments, and Bibliography
(1) Computer Organization and Design: The Hardware/Software Interface. Hennessey and Patterson, Morgan
Kaulmann Publishers, 1994.
(2) Assistance in developing and understanding this issue was provided by Sarn Figueroa, formerly a professor
at Taylor University and now with Next Computing. This incident is NOT based on any known situation at
Next Computing.
Database Discredited
Waldo Roth
Computing and System Sciences Department
Taylor University
500 West Reade Avenue
Upland, Indiana 46989-1001
I. Introduction
As an industrial engineering consultant hired by a credit bureau ("RWT"), you have been
asked to analyze problems that have occurred with their 20 million record credit file. RWT
management became concerned when the following situation came to their attention.
A couple moving to a retirement community has an eye on their "dream home." Because
they have a good credit history, they assume that they will have no trouble obtaining a
mortgage to purchase this home through a local bank in their new community. A routine
credit check through RWT reveals that in fact they are a bad credit risk. When a
representative from the local bank pursues the case, she discovers that the couple has been
mis-identified in the RWT database, which has confused them with another party having a
very bad credit history. In making amends, the local bank approves the loan, but by now the
home has already been sold to someone else. The couple is heartbroken and worse yet, they
continue to experience credit problems for some time.
13. RWT has called you in as a consultant to make recommendations. Where do you
begin?
14. What design flaws in the database have allowed this problem to occur?
15. Management at RWT claims they have only 1 error per 100,000 records in their
databank. How would you develop an experimental design test this claim?
16. After determining whether RWT is correct in their claim that they have only one
error per 100,000 records, determine how many bad records they have in their major
file at the present time. What implications does this have, if any?
17. At what cost per record do you decide they need to rework the database? What other
data or assumptions do you need to make before recommending a solution?
[Assume you need (1) a cost per record to update, (2) the number of errors per year
(which can be estimated), and (3) the cost per error found by users.]
[You also need to know the rate of updates or new records per month or year.
Assume there are 300,000 accesses or updates per month to the database.]
29
M. Bongards
Technik & Ethik
Übungsaufgaben
[Also assume it costs $10/record to clean up the database plus $50,000 in fixed costs.
Finally, assume the cost for insurance, lawyers. etc. for each bad record found is
$100,000.]
18. Compare the two costs, draw conclusions, and recommend a course of action in a
one page memo to RWT management. Or write a dialogue for a discussion of the
matter with RWT.
19. Estimate the time required to clean up the database. Can you design a solution that
would not take the database off-line for that amount of time?
8. What are the relevant facts?
9. List the "stockholders" -- those with something to lose (or win) in this case.
10. Who benefits here? Who is harmed here? (There may be multiple answers.)
11. What ethical principles from your textbook apply to this case?
12. How could you prevent this situation from happening again?
1. This case is based on an idea from Ethical Decision Making and Information Technology,
Kallman and Grillo, McGraw-Hill, 1994. The case is called "Credit Woes," see p. 59.
2. Note: There are some similarity in this case to the famous Ford Pinto case. See Harris,
Pritchard, and Rabins, Engineering Ethics: Concepts and Cases, p. 205.
3. There is now legal recourse for the couple in such a case, but the law focuses on the
responsibilities of the credit supplier (how the data can be corrected) rather than on how
individuals can resolve follow-up errors.
30
M. Bongards
Technik & Ethik
Übungsaufgaben
PCs and Occupational Hazards
I. Introduction
A state legislature considers a new safety law requiring all companies with 15 or more
employees to provide adjustable-chairs, "safe" video monitors, detachable keyboards, and
15-minute breaks every two hours for all employees spending a minimum of three hours per
day working on a personal computer or workstation (PC/WS).[1]
Businesses have objected, however. They claim that in one study alone, conducted on a
similar law in a major U.S. city, such legislation cost $100 million to update 56,000 PCs.[2]
II. Numerical and/or Design Problems
1. Describe an estimation method you would use to determine the validity of the $100
million estimate. Indicate which assumptions you would retain and which values could be
variable. Given your assumptions, is the original prediction accurate?
2. Additional conservative predictions claim 10% of the 100,000 small businesses in the
state with 15 employees or less would be put out of business by this legislation.
3. You are an industrial engineer working on an economic impact statement for the
governor's task force dealing with this proposed legislation and you need to come up with
some estimates. [Note that expected value and the expected value of perfect information
(EVPI) could be of help in making a "first cut" estimate.] What analysis would you do to
describe the costs of such legislation? Show all your assumptions, calculations, and write up
a memo describing to the governor what you would recommend.
1. What is the legislature's responsibility in determining the economic impact? What about
PC/WS manufacturers in developing safer machines? Why are computers today "safer" than
they were in 1991? Are they?
2. Suppose you are an electrical engineer working for a PC manufacturer in the state. What
are the ethical considerations needed to do a cost/benefit analysis with respect to this issue?
3. Make a table of the pros and cons in redesigning the PC company's machines to address
these health issues (real and/or imagined). (See footnote [3] as well.)
[1] "San Francisco PC Safety Law Raises More Questions than it Answers", PC Computing,
April, 1991.
[2]Ibid. This article was first pointed out to the author and summarized by Taylor University
computer science majors, Marla Butch and Geof Baker.
[3] Sellers, Don. ZAP! Edited by Stephen F. Roth. Peachpit Press, 1994.
31
M. Bongards
Technik & Ethik
Übungsaufgaben
Indizierung von Computerspielen – Gründe und Auswirkungen
Teil1: Theorie/ Grundlagen
Wer sucht aus was indiziert werden soll?
Wer indiziert?
Wie wird indiziert?
Was wird indiziert?
Welche Folgen hat die Indizierung?
Teil2:
Praxis/ Statistiken und Auswertungen
Pro und Contra von Indizierung
Bsp. von indizierten Spielen und die Folgen
Bsp. Inwiefern können Kriegsabenteuer das alltägliche Verhalten von Kindern negativ
Beeinträchtigen?
Literatur: Leitfaden der BPJS / USK.
Artikel diverser Zeitschriften. usw.
32
M. Bongards
Technik & Ethik
Übungsaufgaben
Aufgabe 34
+++ Milliarden-Klage gegen Firestone +++
Die Zahl der mit defekten Firestone-Reifen in Verbindung gebrachten Todesfälle hat sich nach neuesten Daten
der US-Sicherheitsbehörde für Straßenverkehr NHTSA um 29 auf 203 erhöht. Die Zahl der in
diesem Zusammenhang Verletzten liege nach wie vor bei über 700, teilte die Behörde am Montag in
Washington mit.
Am Dienstag soll die Anhörung der Vorstandsvorsitzenden von Ford und Firestone vor dem Energie- und
Handelsausschuss des US-Repräsentantenhauses stattfinden.
Ford hatte Ende Mai 13 Millionen Firestone-Reifen vorrangig an ihren Modellen "Explorer" für mehr als drei
Milliarden Dollar wegen "erheblicher Sicherheitsrisiken" wegen der Reifen zurückgerufen.
Ein Mitglied des Kongress-Ausschusses, der die Sicherheit der Reifen überwacht , äußerte sich skeptisch zu
dem Austausch-Programm von Ford. Einige der Reifen, mit denen der Autohersteller die
Firestone-Reifen ersetzen wolle, könnten ebenfalls Risiken bergen.
"Nach unseren Erkenntnissen ersetzt Ford die Firestone-Reifen in einigen Fällen mit Marken, bei denen im
Vergleich häufiger Reklamationen auftreten," sagte Ken Johnson, ein Sprecher des Energie- und
Handelsausschusses.
Bei Ford war zunächst niemand zu einer Stellungnahme zu erreichen. Eine Firestone-Sprecherin sagte, die
neuesten Erkenntnisse der Behörde seien ein Beweis mehr dafür, dass die gesamte Rückrufaktion unnötig sei.
Firestone hatte Anfang Juni die US-Regierung um eine offizielle Untersuchung des Ford Explorer gebeten.
Eine von Firestone in Auftrag gegebene Studie habe signifikante Sicherheitsmängel bei einer wichtigen
Fahrzeugkomponente des Explorer ergeben, begründete der Reifenhersteller sein Anliegen. Ford hatte diesen
Vorwurf zurückgewiesen.
Http://www.firestone.com
(Info vom 22.6.2001)
Analysieren sie das Problem:
• Was sind die technischen Ursachen dieser Probleme?
• Was sind die Interessenlagen der Unternehmen Ford und Firestone und wie
argumentieren sie?
• Wie wäre Ihrer Meinung nach ein einzelner Techniker oder Ingenieur in einem der
Unternehmen betroffen?
33
M. Bongards
Technik & Ethik
Übungsaufgaben
"Moralisches Handeln in der Berufspraxis – Ein
Erfahrungsbericht"
Vor ca. 5 Jahren hatte ich Gelegenheit in einer
Unternehmensberatung ein Projekt durchzuführen, das
einige der in der Vorlesung angesprochene Bereiche
betrifft.
Es handelte sich um ein deutsches Großunternehmen, das
unsere Unternehmensberatung beauftragt hatte, eine
umfassende Analyse der eigenen Marktposition und
des Wettbewerbes durchzuführen.
Im laufe des Projektes kam es zu Aufgabenerweiterungen,
so dass u.a. eine Neustrukturierung des Vertriebsnetzes und
Umorganisation der zentralen Einkaufsabteilung in unseren
Aufgabenbereich fiel.
Hierbei entstanden vielfältige Probleme, da natürlich
auch Mitarbeiter betroffen waren.
Sowohl mit dem Auftraggeber als auch firmenintern
haben wir seinerzeit heftig diskutiert und versucht, unsere
Entscheidungsprozesse so transparent wie möglich zu gestalten,
um später begründet und fundiert entscheiden zu können.
In meinem Referat werde ich die einzelnen Problemkreise
schildern und unsere Lösungen darstellen, um zu
zeigen, dass sich moralische und ethische (theoretische)
Konzepte nicht immer in die Praxis übertragen lassen bzw.
zu berichten, mit welchen Gegensätzen wir zu kämpfen hatten.
Schwerpunkt wird nicht die Projektbeschreibung sein, sondern
die Darstellung der vielfältigen "Stellgrößen" und Vorgaben,
die in einem komplexen Entscheidungsprozess zu beachten sind
und die daraus resultierenden moralischen/ethischen Konflikte.
34
M. Bongards
Technik & Ethik
Übungsaufgaben
Aufgabe 36
"Internet-Überwachung und
-Kontrolle am Arbeitsplatz"
Einleitung
Was ist zulässig?
-Gesetzliche Grundlagen (Betriebsverfassungsgesetz, Bundesdatenschutzgesetz,
Telekommunikationsgesetz, Strafgesetzbuch)
- Mitbestimmung des Betriebsrates
Welche Möglichkeiten der Überwachung gibt es?
-aktive Programme
-passive Programme
-offen operierende Software
-unsichtbare Programme
-Anbieter solcher Programme
Diskussion
- Der Gläserne Mitarbeiter
Fragestellung:
Wie würde ich mich verhalten, wenn meine Geschäftsführung ein System zur
Überwachung der Mitarbeiter einführen will und ich es in die Tat umsetzen soll?
Fazit
35
M. Bongards
Technik & Ethik
Übungsaufgaben
Aufgabe 37
Soll ich mich für den Kollegen opfern?
In den Augen meiner Vorgesetzten ist es mir bisher wohl gelungen, als guter Mitarbeiter zu erscheinen.
Jährliche Karrieregespräche, ein infolge Vorgesetztenwechsel entstandenes Zwischenzeugnis und vor allem die
Gehaltsentwicklung der .fünf Jahre bei meinem Arbeitgeber lassen diese meine Vermutung als richtig
erscheinen.
Jetzt steht der kleinen Abteilung, in der ich tätig bin, eine dramatische Stellenreduzierung (etwa 50% der
Mitarbeiter) ins Haus. Meine Vorgesetzten haben mir klar zu verstehen gegeben, dass ich zu den wenigen
"nachher" noch vorhandenen Mitarbeitern gehören soll.
Umgekehrt bedeutet das, dass mindestens ein von der Tätigkeit her mir direkt vergleichbarer - Kollege das
Unternehmen wird verlassen müssen.
Ich bin Anfang 30, wohne zur Miete und würde .für meine kleine Familie wohl (hoffentlich!!!) recht bald
wieder ein Auskommen finden. Der akut zur Disposition stehende Kollege wird in wenigen Jahren 50, zahlt
noch die Eigentumswohnung ab und hat bei einer Stellensuche wohl "sehr schlechte Karten ".
Auch wenn besagter Kollege die nächste Umstrukturierung nicht überstehen würde: Wäre es vor dem
beschriebenen Hintergrund völlig "unmöglich ", wenn ich dem Unternehmen anböte, mir anstelle des
beschriebenen Kollegen zu kündigen?
Würde ein künftiger Bewerbungsempfänger tatsächlich so etwas wie menschliche Größe darin sehen - oder
eben nur "größtmögliche Blödheit"?
36
M. Bongards
Technik & Ethik
Übungsaufgaben
Aufgabe 38
Bestechlichkeit
An meinem Arbeitsplatz wurde ich mit einem Bestechungsfall konfrontiert. Dieser Fall bereitet meinem
Gewissen ernsthafte Probleme und kann meine Karriere schädigen. Es gilt nun, einen Weg zu finden, den ich
mit meinem Gewissen vereinbaren kann und der meiner Karriere keinen Schaden zufügt.
Vor einigen Jahren stieß ich durch Zufall darauf, dass mein Vorgesetzter Bestechungsgelder von Lieferanten
entgegennahm. Außerdem rechnete er z.B. Spesen für: nicht stattgefundene Reisen ab. Da er zu diesem
Zeitpunkt bereits gekündigt hatte und ich noch nicht sicher im Unternehmen verankert war; habe ich aus Sorge
um meinen Arbeitsplatz nie über diese Vorkommnisse gesprochen.
Später ist dieser ehemalige Vorgesetzte zurückgekehrt und jetzt wieder mir übergeordnet. Verantwortliche
Mitarbeiter, die ihm schon länger unterstellt sind, beschweren sich darüber; dass dieser Vorgesetzte ihre
Kompetenzen durch die Auswahl bestimmter Lieferanten beschneidet, dadurch ergeben sich klar erkennbare
Nachteile für das Unternehmen.
Diese Beobachtungen lassen vermuten, dass dieser Vorgesetzte nach wie vor bestechlich ist.
Die Konsequenzen der zu vermutenden Bestechung hätte ich in meinem Verantwortungsbereich zu tragen: Mit
ungeeigneten Lieferanten erreichen wir keine überzeugende Wirtschaftlichkeit, ich erreiche meine
vorgegebenen Ziele nicht und verdiene weniger: Kommt es durch Entscheidungen meines Vorgesetzten zur
Auswahl ungeeigneter oder außerhalb geltender Vorschriften arbeitenden Subunternehmer; müsste ich als
nominell für deren Einsatz verantwortlicher Mitarbeiter sogar mit strafrechtlichen Konsequenzen rechnen.
a) Bin ich verpflichtet, meinen Arbeitgeber auf die vermutete Bestechlichkeit hinzuweisen?
b) Will es mein Arbeitgeber überhaupt wissen, wenn ein Mitarbeiter bestechlich ist? Bewertet er mehr den
bestechlichen Vorgesetzten oder mich als Störenfried?
c) Wie verhalte ich mich am klügsten?
37
M. Bongards
Technik & Ethik
Übungsaufgaben
Aufgabe 39
Bestechlichkeit: anonym melden?
(Zum Verständnis lesen Sie auch bitte Aufgabe 38)
… möchte ich eine Facette ergänzen, die vielleicht … anderen hilft, Gewissenskonflikte zu lösen:
In seinem Brief berichtet der Leser von erkennbaren Nachteilen für das Unternehmen durch die Auswahl
ungeeigneter Lieferanten und Subunternehmer: Wenn diese Angaben zutreffend sind, handelt es sich um
objektive Sachverhalte, die ohne Nennung von Namen, jedoch mit konkreten betrieblichen Angaben
(Ausschreibungsnummer; Bestellvorgang, Lieferantennummer usw.) belegt werden können. An solchen
konkreten Informationen ist jede Unternehmensleitung interessiert, um den ordnungsgemäßen Geschäftsablauf
wieder sicher zu stellen.
Wenn solche konkreten sachlichen Detailangaben z. B. auch in einem anonymen Hinweis genannt werden, wird
man diese Angaben prüfen. Die Sachverhaltsaufklärung z. B. durch die Interne Revision wird dabei auch das
Handeln verantwortlicher Personen umfassen. Sollte persönliches Fehlverhalten festgestellt werden, wird das
Unternehmen daraus auch Konsequenzen ableiten.
Ich empfehle dem Einsender daher; die Unternehmensleitung korrekt über die objektiven Sachverhalte zu
informieren, ohne dabei zu denunzieren und ohne dabei selbst in Erscheinung treten zu müssen. In einigen
Unternehmen gibt es bereits hierzu eine Telefon-Hotline oder einen Ombudsmann.
Ich stütze meine Empfehlung auf langjährige Erfahrungen als Revisor und als Mitarbeiter des Personalwesens
eines Großunternehmens.
a) Ist dies ein gangbarer Weg für den Mitarbeiter? Welche Probleme sehen Sie als Mitarbeiter bei der
praktischen Realisierung?
b) Welche Vor- und Nachteile hat die Unternehmensleitung, wenn Sie diese Politik unterstützt?
c) Welche Alternativen sehen Sie für die Unternehmensleitung?
38
M. Bongards
Technik & Ethik
Übungsaufgaben
Aufgabe 40
Walter Bübl: Patente sichern den Fortschritt
Sortenschutz und Patentschutz legen bestimmte Rechte und Pflichten für die gewerbliche Nutzung eines
Produktes für einen definierten Zeitraum fest. Patente werden auf Erfindungen erteilt. Dazu muss eine
Erfindung bestimmte Kriterien erfüllen: die der Neuheit, der Erfindungshöhe, also des damit verbundenen
Fortschritts, und die gewerbliche Anwendbarkeit.
Der Patentschutz gilt 20 Jahre ab Patentanmeldung. Nach Ablauf dieser Zeit kann jede Erfindung frei genutzt
werden. Bereits 18 Monate nach der Anmeldung muss die Erfindung vollständig und nacharbeitbar offengelegt
werden. Daher fördern Patente die Transparenz und die Weitergabe von Wissen an Wissenschaft und
Forschung. Ein Großteil der neuen Pflanzensorten, die durch traditionelle Züchtung geschaffen wurden, erfüllt
nicht die Kriterien zur Patentierung. Hier hilft der Sortenschutz.
Warum benötigen wir Patente? Erfindungen verursachen meist erhebliche Kosten für Forschung und
Entwicklung. Lizenzgebühren bieten die Möglichkeit, diese Kosten wieder einzuspielen und künftige
Forschungen zu finanzieren. Patentschutz ist also die Voraussetzung für Investition und Innovation. Damit aus
pflanzen-biotechnologischen Erfindungen vermarktungsfähige Produkte werden, ist nicht nur Kapital, sondern
auch viel Zeit, Kompetenz und Erfahrung erforderlich. Kleinere Unternehmen der Biotechnologie- und
Saatgutbranche sind daher oft auf finanzstarke Partner angewiesen. Der Patentschutz sichert hierbei ihre
Forschungsergebnisse und verhilft dem kleineren Partner zu einer fairen Verhandlungsposition. Auch
öffentliche Forschungseinrichtungen nutzen diesen Schutz.
Der Patentschutz erstreckt sich nur auf Länder, in denen Patente eingereicht und erteilt werden. Da das
Anmelden von Patenten sehr kostenintensiv ist, werden sie vornehmlich in den wichtigsten Industrieländern
angemeldet, jedoch kaum in Entwicklungsländern.
Pflanzensorten können nicht patentiert werden. Ebenso sind die bloße Entdeckung von Pflanzen oder auch
Gensequenzen nicht patentierbar. Zwei Beispiele: Das Erbgut der Reispflanze ist inzwischen weitgehend
entschlüsselt, die Daten sind frei verfügbar. Die Arbeiten am Weizengenom sind fortgeschritten; große
Biotechnologiefirmen haben dazu beigetragen.
Auch ein "Patent auf Leben" gibt es nicht. Der Begriff "Leben" ist als Abstraktion nicht patentierbar. Ebenso
wenig gewährt ein Patent Eigentumsrechte an einem Produkt oder an biologischem Material, das auf einer
patentierten Erfindung beruht.
Rund ein Viertel der weltweit mit transgenen Kulturpflanzen bestellten Flächen entfielen im Jahr 2002 auf
Entwicklungsländer. Indien, Kolumbien und Honduras kamen neu als Anbauländer hinzu. Die größten
Wachstumsraten erzielte China, das beträchtliche Summen in die Erforschung und Entwicklung der Grünen
Gentechnik investiert. Fachleute erwarten, dass China binnen kurzem zum Exporteur dieser Technologien im
asiatischen Raum entwickeln wird. Entscheidend ist dabei die schnelle Umsetzung von Forschungsergebnissen
in die Praxis.
Die Entwicklung von relativ salztoleranten oder trockenresistenten Pflanzen, der "Goldene Reis" mit erhöhtem
Provitamin A-Gehalt oder Papaya mit eingebauter Virusresistenz zeigen, dass für einige große Probleme der
Entwicklungsländer konkrete Lösungen möglich sind. Zur Ernährung der Weltbevölkerung ist es bis zum Jahr
2050 notwendig, die Produktion pflanzlicher Grundnahrungsmittel auf dem weltweit begrenzten
ackerbaufähigen Land zu verdoppeln. Das ist nur mit den Entwicklungsländern zu erreichen. Grüne Gentechnik
bietet die Möglichkeit zur Selbsthilfe und zur nachhaltigen Entwicklung.
Kein Landwirt der Welt kann gezwungen werden, teures Saatgut zu kaufen, das ihm keinen Vorteil bietet. Die
Marktwirtschaft, so sie nicht behindert wird, stellt sicher, dass mit geschützten Sorten erzielte Gewinne
zwischen den Marktbeteiligten geteilt werden. Die Patentrichtlinie der Europäischen Union bestätigt
ausdrücklich das "Landwirtsprivileg": Danach ist ein Landwirt berechtigt, sein Erntegut auf seinem eigenen
Land in den Folgejahren unter den gleichen Konditionen als Saatgut zu verwenden. Handel, Tausch oder
Weitergabe des Nachbausaatguts sind nicht gestattet. Falls Spuren eines patentgeschützten Merkmals - zum
Beispiel durch Pollenflug - beim Nachbarn aufzufinden sind, gilt dies nicht als bewusste Patentverletzung.
Wenn man die Nahrungsmittelproduktion auf bestehenden Ackerflächen steigert, so ist das auch der beste
Schutz der Biodiversität - etwa der Regenwälder oder Trockengebiete - Rodungen oder Bewässerung zur
Ausweitung des Anbaus sind dann nicht mehr notwendig.
Walter Bübl ist Koordinator für BayerCropscience Deutschland.
39
M. Bongards
Technik & Ethik
Übungsaufgaben
a) Stellen Sie die Argumentation kurz dar.
b) Prüfen Sie die vorgebrachten Argumente mit eigenen Recherchen.
c) Welche ethischen Prinzipien liegen der hier vorgebrachten Argumentation zu Grunde?
40
M. Bongards
Technik & Ethik
Übungsaufgaben
Aufgabe 41
Christoph Then: Patentiertes Saatgut gefährdet die Welternährung
In den letzten 10 Jahren fand parallel zur Ausweitung des Patentschutzes auf den Bereich des Saatgutes -eine
intensive Konzentration statt, aus der wenige Agrochemie-Konzerne als Gewinner hervorgingen: DuPont,
Monsanto, Syngenta und Bayer - alles Firmen, die aus dem Chemiegeschäft kommen und jetzt ganz oben auf
der Liste der transnationalen Saatgut-Multis stehen. Nur diese „big players“ können im Millionenspiel der
Patentstreitigkeiten überleben, können von Konkurrenten benötigte Exklusivrechte aufkaufen und im Streit mit
anderen Firmen genug Patente als Verhandlungsmasse einbringen.
Was diese Firmen in ihren Genbanken ansammeln oder in den Zuchtgärten vermehren, wird der Allgemeinheit
entzogen und, kommt erst auf den Markt, wenn patentgeschützte Gene eingebaut wurden und Anbau,
Vermehrung und Ernte des Saatgutes durch Exklusivrechte kontrolliert werden können. In einem einzelnen
Reiskorn können sich inzwischen einige Dutzend Patentansprüche verstecken. Der Schweizer Forscher
Potrykus, der Reis gentechnisch mit Vitamin A aufrüsten will, stellte fest, dass er dabei mit bis zu 70 Patenten
und 32 Patentinhabern in Konflikt geraten könnte. Über 300 Patente wurden in Europa bereits erteilt, die
ausdrücklich pflanzen und Saatgut beinhalten. Hinzu kommt eine große Zahl weiterer Patente, die dem
Wortlaut nach nur Verfahren umfassen, sich aber auch auf Anbau und Züchtung von Nutzpflanzen erstrecken.
Längst reklamieren die Firmen Pflanzen auch ohne gentechnische Veränderung als ihre Erfindung: Für das
Patent EP 744 888 reichte es aus, dass die Firma DuPont den Ölgehalt in Maiskörnern analysiert, um ein
Monopol auf alle Maispflanzen mit einer bestimmten Ölqualität zu erhalten. Gegen das Patent legte unter
anderem die Regierung von Mexiko Einspruch ein: Mais mit dieser Ölqualität wird seit Jahrhunderten in
Lateinamerika angebaut. Monsanto analysierte die Gene bestimmter Soyasamen aus China und beantragte im
Jahr 2000 ein Patent auf alle Pflanzen, die diese Gene von Natur aus in sich tragen (WO 0018963).
Bis vor kurzem galt der freie Zugang zu genetischen Ressourcen für die Züchtung als conditio sine qua non:
Für Pflanzen wurde unter anderem in Europa ein besonderes System des geistigen Eigentums entwickelt: der
Sortenschutz. Er geht davon aus, dass der Zugang zu genetischen Ressourcen frei von exklusiven Ansprüchen
bleiben muss, um Forschung und Entwicklung nicht zu behindern. Zwar hat der Sortenschutzinhaber ein
exklusives Recht, sein gezüchtetes Saatgut zu verkaufen, doch der sogenannte Züchtervorbehalt ermöglicht
einen permanenten Prozess der Innovation: Jeder Züchter, der eine neue Pflanzensorte züchten will, hat freien
Zugang zum durch Sortenschutz geschützten Saatgut.
Weist seine Sorte wirklich neue Eigenschaften auf, erlischt das Recht der vorherigen Züchter, die neue
Pflanzensorte kann vermarktet werden. Anders als im Sortenschutz tritt mit dem Patentrecht an die Stelle des
freien Zugangs die Möglichkeit zu weitreichenden Blockaden der züchterischen Arbeit mit den
patentgeschützten Pflanzen. Zudem umfassen die Patente alle Stufen der Wertschöpfung - vom Acker bis zum
Lebensmittel.
Vor den Folgen der Patentierung, vor allem für die ärmeren Länder, warnen unter anderem die Rockefeller
Foundation und UNEP, das Umweltprogramm der Vereinten Nationen. Eine aktuelle Übersicht über die
Entwicklung findet sich im Bericht „Integrating Intellectual Property-Rights and Development Policy” der UKCommission on Intellectual Property Rights aus dem Jahr 2002, die den Entwicklungsländern empfiehlt,
Patente auf Pflanzen und Saatgut gänzlich zu verbieten.
In der Nature-Ausgabe vom Februar 2003 wird die Situation ebenfalls als dramatisch eingeschätzt: Parallel zur
Ausweitung privater Urheberrechte wurden die Gelder für die öffentliche Forschung drastisch gekürzt.
Zugleich erschwert die Patentierung den Zugang zu genetischen Ressourcen, Saatgut wird zu teuer,
insbesondere für die Entwicklungsländer.
Diese Fragen werden derzeit in Europa und weltweit auf verschiedenen Ebenen beraten: Die EU verlangt von
ihren Mitgliedsländern, Patente auf Saatgut und Pflanzen anzuerkennen. Der Deutsche Bundestag wird
deswegen in den nächsten Wochen erneut über die Umsetzung der EU-Richtlinie „Rechtlicher Schutz
biotechnologischer Erfindungen“ zu beraten haben. Zudem wird bei der Welthandelsorganisation WTO und der
World Intellectual Property Organisation (WIPO) über die Abschaffung aller Ausnahmen der Patentierbarkeit
weltweit verhandelt.
Greenpeace fordert, dass Patente auf Saatgut, auf Pflanzen und ihre Gene international
verboten werden.
Christoph Then ist Patentexperte bei Greenpeace in Hamburg.
41
M. Bongards
Technik & Ethik
Übungsaufgaben
a) Stellen Sie die Argumentation kurz dar.
b) Prüfen Sie die vorgebrachten Argumente mit eigenen Recherchen.
c) Welche ethischen Prinzipien liegen der hier vorgebrachten Argumentation zu Grunde?
42

Themen - Referate

Transcrição

Documentos relacionados

Wettbewerbspolitik

Übungsblatt 1

Hans Jonas: Prinzip Verantwortung

Fleischwerk EDEKA Nord GmbH

Brüllmann Publikationen März 2016

Liebe Freunde der Weisheit, sehr geehrte Damen und Herren!

Weibliche Genitalkorrekturen. Ästhetische Notwendigkeit oder

kreuzer - Das Leipzig Magazin - Forum für Lebensenergie Leipzig

Marktchancen Trends 2015 Farben und Putze Zukunft im Blick

Zum Beitrag „Zwischen ärztlicher Ethik und Patienten