Prinzip Mensch

Dietz Verlag, 432 Seiten, Broschur, 26,00 Euro, ISBN 978-3-8012-0565-2 – Verlagsseite zum Buch

Europas Demokratie in Zeiten des digitalen Umbruchs

Die Niedersächsische Ministerin für Bundes- und Europaangelegenheiten und Regionale Entwicklung

Birgit Honé

lädt Sie herzlich ein zu einer Online-Veranstaltung

 am Mittwoch, 2. Dezember 2020, um 16:00 Uhr.

Nach einem ‚Keynote-Interview‘ von Katarina Barley durch den renommierten Filmemacher, Fernsehproduzenten und Schriftsteller Alexander Kluge diskutieren unter der Moderation der NDR-Journalistin und Autorin Svea Eckert:

Paul Nemitz
Hauptberater in der Generaldirektion Justiz und Verbraucher und
Autor des 2020 erschienenen Buchs „Prinzip Mensch – Macht, Freiheit und Demokratie im Zeitalter der Künstlichen Intelligenz“

Katarina Barley

Vizepräsidentin des Europäischen Parlamentes und
Mitglied im Ausschuss für bürgerliche Freiheiten, Justiz und Inneres

Prof. Dr. Catrin Misselhorn

Professorin für Philosophie an der Universität Göttingen
mit aktuellen Forschungsprojekten u.a. zu philosophischen Problemen der Künstlichen Intelligenz sowie der Roboter- und Maschinenethik

Die digitale Transformation und der Einsatz von Künstlicher Intelligenz (KI) sind mit vielen Chancen und Risiken für die Gesellschaft und damit auch Regulierungsbedarf seitens der Politik verbunden. Die Corona-Pandemie hat diese Entwicklung noch einmal beschleunigt. Daher soll bei dieser Veranstaltung erörtert werden, ob durch Digitalisierung und KI die Funktionsfähigkeit der Demokratie gefährdet wird und welche Auswirkungen für das soziale Miteinander in Europa entstehen.

Wir bitten um Anmeldung bis zum 2. Dezember 2020 unter diesem LinkHier finden Sie auch weitere Informationen zur Veranstaltung.

© Fotos: Barley, Nemitz, Misselhorn

Europe’s democracy in times of digital transformation

The Minister for Federal and European Affairs and Regional Development of Lower Saxony

Birgit Honé

cordially invites you to an online event

on Wednesday, 2 December 2020 at 4.00 p.m.

After a keynote interview with Katarina Barley by Alexander Kluge, German filmmaker and TV producer, Svea Eckert, NDR journalist, will moderate a panel discussion with the following participants:

Paul Nemitz
Principal Adviser in the Directorate-General for Justice and Consumers and author of the book „Prinzip Mensch – Macht, Freiheit und Demokratie im Zeitalter der Künstlichen Intelligenz“

Katarina Barley
Vice-President of the European Parliament and i.a. member of the Committee on Civil Liberties, Justice and Home Affairs

Prof. Dr. Catrin Misselhorn
Professor of Philosophy at the University of Göttingen. Her main areas of research are theory of knowledge and science, philosophy of technology, philosophy of mind, language and culture


The digital transformation and the use of artificial intelligence (AI) are associated with many opportunities and risks for society and are thus also in need of political regulation. The coronavirus pandemic has further accelerated this development. Therefore, the aim of this event is to discuss whether digitalisation and AI endanger the functioning of democracy and what the implications arise for social interactions in Europe.

Please register by 2 December using this link. Here you will also find more information about the event.

Die Besprechung von „Prinzip Mensch“ durch Michael Meyer im Deutschlandfunk am 30.8.2020 | Andruck – Das Magazin für Politische Literatur:

„Prinzip Mensch ist, ohne Übertreibung, in seiner Spannbreite eines der umfassendsten Bücher zu Wirtschaft und Demokratie in Zeiten des digitalen Umbruchs.“ „Das Buch Prinzip Mensch ist in seiner Analyse der Verhältnisse in der Digitalwirtschaft eine hervorragende Grundlage für weitere Debatten und Meinungsbildung.“ Michael Meyer im Deutschlandfunk Buchmagazin „Andruck“, 30.8.2020

Gesellschaft für InformatikVideo zum Nachschauen: Am 9.11. 2020 stellten Paul Nemitz (EU-Kommission) und Matthias Pfeffer ihr neues Buch »Prinzip Mensch – Macht, Freiheit und Demokratie im Zeitalter der Künstlichen Intelligenz« im #GIWebTalk vor. Anschließend diskutierten sie mit Prof. Dr. Christina B. Class (EAH Jena), Sprecherin des Fachbereichs „Informatik und Gesellschaft“, Prof. Dr. Debora Weber-Wulff (HTW Berlin), GI-Fellow und ehem. Sprecherin der Fachgruppe „Informatik und Ethik“ und Prof. Dr. Sarah Spiekermann (WU Wien), Autorin des Buchs „Digitale Ethik – Ein Wertesystem für das 21. Jahrhundert“. https://lnkd.in/giaDfaJ

Unser Artikel „Die Personalisierungsfalle – Wie Algorithmen unsere Öffentlichkeit gefährden“ erscheint aus aktuellem Anlass einen Tag vor der Wahl in den USA in der Frankfurter Allgemeinen Zeitung vom 2. November 2020.

Der Imre Grimm, Resortleiter Gesellschaft des Redaktionsnetzwerks Deutschland, hat „Prinzip Mensch“ gelesen und schreibt dort am 26.9. 2020 und aktualisiert am 16.10.2020 in der Frankfurter Rundschau.

“Prinzip Mensch” ist ein profunder Baustein in der anschwellenden Debatte über Datenethik. Es ist eine faktenreiche, zornfreie und fundierte Streitschrift, die man nicht gern lesen wird im Silicon Valley, wo der Gotteswahn der Milliardäre mit den hippiesken Heilsversprechen des kalifornischen Can-do-Spirit verschmolzen ist. Wo Politik, Gesetze und gesellschaftlicher Diskurs nur als regionale Bremsklötze auf dem Weg in ein digitales Utopia gelten.“

Den Beitrag von Imre Grim zu Prinzip Mensch griff der Lichtwolf in seiner Netzrundschschau auf.

Paul Nemitz diskutierte mit dem Präsidenten der Technischen Universität Berlin, Prof. Christian Thomsen, am 11. November über „Prinzip Mensch“ in einem öffentlichen Livestream. Video Link zum Nachschauen folgt.

„This is not just one more book about technology and power. Paul Nemitz and Matthias Pfeffer know personally what it means to address challenges that seem unsurmountable and the need to resist to the cynical temptation of a political act as “the art of the possible”. It is only by aiming at the allegedly impossible that humanity is progressing. Paul and Matthias urge the actors of the techno-scientific communities to assume their share of responsibility for the outcome of their actions, and the policy makers to assume their responsibility by not tolerating anymore a technocratic diktat. The time of innocence is over. We know now that this fight must be fought and can be won.“ Dr. Ing. Konstantinos Karachalios, Managing Director, IEEE standards.ieee.orgThe Institute of Electrical and Electronics Engineers (IEEE) is with its 420000 Members the world’s largest technical professional organization dedicated to advancing technology for the benefit of humanity.

„Ein großer Wurf zu einem wichtigen Thema unserer Zeit“, Alexander Kluge, 1.Juli 2020

Die Buchempfehlung von Alexander Kluges DCTP TV :

Die Politico Europe Meldung zur Schlagzeile:

The Book Silicon Valley won’t like“, AI Decoded Spotlight, Politico Europe, Janosch Delcker, 1. Juli 2020

»Tech without democracy and rule of law cannot work, and this book shows us a clear path forward that will allow us to integrate tech into our social fabric. The US Congress must act, for if America does not reign it in, others will.«
Professor Alex „Sandy“ Pentland, MIT Media Lab, Author of „Social Physics“

Miriam Tessens stellte „Prinzip Mensch“ am 27.10.2020 den 32000 Mitarbeitern der Europäischen Kommission in Brüssel in ihrem Beitrag „Standing up for freedom and democracy in the age of AI, Colleague’s book faces up to big tech companies“ für die Hauszeitschrift „Commission en Direct“ auf dem Intranet der Kommission vor.

In den Salzburger Nachrichten vom 17.10.2020 verarbeitet der Redakteur für „Religion/Geist und Welt“, Mag. Josef Bruckmoser, unser Buch „Prinzip Mensch“ in seinem Beitrag „Denkt die KI schon bald allein ?

»Dieses Buch ist eine Ode an die Demokratie – auch und gerade im Zeitalter der künstlichen Intelligenz. Es ist der eindringliche Appell, die ökonomische und technische Macht der Internet-Giganten einzuhegen und den digitalen Raum zum Wohle der Menschen zu gestalten. Und es bestärkt mich in meiner festen Überzeugung, dass wir dafür auch die nötigen Instrumente [alternativ: Mittel] haben. Also packen wir es an – für ein freiheitliches, gerechtes und solidarisches Internet!«
Dr. Margaretha Sudhoff, Staatssekretärin im Bundesministerium der Justiz und für Verbraucherschutz 

Update 1.9.: Die englische Version des Buches, die wir mit Nyasha Weinberg in London produziert haben, ist fertig. Der Verlag verhandelt mit Verlagen in den USA und UK über den Verkauf der Rechte. Die Agentur des Verlages hat Interessenbekundungen für weitere Übersetzungen erhalten aus Frankreich, Italien und Korea.

17.9. Stephan Raab bespricht in Politik-Digital unser Buch, unter der Überschrift „Hier bin ich digital, hier darf ich Mensch sein“

Wer den Dokumentarfilm „The Social Dilemma“ auf Netflix sieht, liesst dann gerne gleich Prinzip Mensch weiter, um Antwort auf die Frage „Was tun ?“ zu finden, schreibt Yannick Plumpe, Student an der Technischen Universität München.

Autor Paul Nemitz ist neuerdings der #1 Technology #EUInfluencer im alljährlichen Ranking der Brüsseler ZN Medienberatung.

Matthias Pfeffer spricht auf dem European Data Summit „The Winner takes it all ?“ der Konrad Adenauer Stiftung, das vom 30. September bis 1. Oktober in Berlin stattfindet.

Mehr zu Paul Nemitz

Mehr zu Matthias Pfeffer

Die Endnoten zu Prinzip Mensch zum Herunterladen und Weiterlesen mit einem Klick

Wir präsentierten das Buch in einer Internet Diskussion mit MdB Daniela Kolbe. Daniela Kolbe ist Vorsitzende der KI Enquete Kommission im Deutschen Bundestag. Sie kommt aus Leipzig.

Hier ist der Video Podcast der Buchvorstellung anhand des Inhaltsverzeichnisses:

Matthias Pfeffer zu Prinzip Mensch und Demokratie in Zeiten Künstlicher Intelligenz in der WDR 3 Sendung „Resonanzen“ am 11.8.2020- WDR Audiothek

Paul Nemitz sprach über das Buch und die „Ethik der Digitalisierung“ Initiative des Bundespräsidenten am -7.8.2020 in der Sendung „Politikum“ des WDR:

Matthias Pfeffer sprach über das Buch in der Radio Sendung „Habe die Ehre!“ am 3. Juli 2020 im Bayrischen Rundfunk.

Und er schrieb im Playboy, inspiriert durch die Arbeit an dem Buch: Macht uns smarte Technik doof ?

Kontaktieren Sie uns über :

Kontakt für Veranstaltungen und Interviews ist Barbara.Oh@Dietz-Verlag.de, Telefon +4922818487724.

Datenschutz: Die persönlichen Daten von Besuchern dieser Webseite werden durch WordPress nach seiner Datenschutzerklärung verarbeitet – https://wordpress.org/about/privacy/https://automattic.com/cookies/ – und bei Benutzung der Buttons durch die jeweiligen Dienste nach ihren Datenschutzerklärungen.

Impressum: Paul Nemitz/Matthias Pfeffer, Berlin, Brüssel, info@prinzipmensch.eu

12 Kommentare zu „Prinzip Mensch

    1. gestern habe ich an die Konferenz teilgenonmmen and vie gelernt. Musste aber um 19.00 die Konferenz leider verlassen. M; Pfeffer wollte etwas über die mögliche Rolle der Zivilgesellschaft erklären, wurde aber leider von der Moderatorin unterbrochen. Ich weiss nicht, ob diese Frage weiterdiskutiert wurde aber würde die Meinung von M. Pfeffer gernje erfahren denn ich arbeite in diesem Bereich.
      Vielen Dank
      Marie Corman
      Europäische Kommission – JUST04- Europe for Citizens programme

      Liken

      1. Liebe Frau Corman,

        vielen Dank für ihre Teilnahme und Ihr Interesse und entschuldigen Sie bitte, dass ich nach einer Reise erst jetzt antworte.
        Ich hatte in der Diskussion ja darauf hingewiesen, dass die Corona-App, die in Deutschland entwickelt wurde, ein gutes Beispiel für die Mitwirkung der Zivilgesellschaft an Entscheidungen zum Thema Datenschutz ist. Auch wenn sich die Entwicklung dadurch verzögert hat, was auch ein gutes Zeichen für eine intensive und vielstimmige Diskussion und einen demokratischen Entscheidungsprozess ist, ist doch durch die Mitwirkung zivilgesellschaftlicher Akteure eine Technologie entwickelt worden, die es erlaubt, Infektionsketten zu unterbrechen und dabei doch eine zentrale Erfassung der Daten verhindert. Die App zeigt damit, dass digitale Technologie uns helfen kann, wenn sie nicht ausschließlich nach technischen, sondern ebenso nach demokratischen Kriterien designt wird, die gleichzeitig Rechtsstaatlichkeit und Menschenwürde wahren.
        Ganz generell zeigt ich in den zurückliegenden Jahrzehnten, dass die Rolle der Zivilgesellschaft für die Demokratie an Bedeutung gewinnt. Schon die Kommunistischen Diktaturen sind ganz wesentlich von zivilgesellschaftlichen Akteuren zu Fall gebracht worden. In den modernen Systemen der hochtechnisierten spätkapitalistischen Gesellschaften zeigt sich ebenfalls, dass Einzelne vergleichsweise machtlos sind, während zivilgesellschaftliche Akteure ein immer wichtiger werdendes Korrektiv für Politik und Wirtschaft darstellen. Gerade wenn zentrale Steuerungssysteme, die durch die Digitalisierung z.T erst ermöglicht werden, immer mehr Macht gewinnen, kann das Korrektiv nicht allein durch politische Entscheidungen privater Einzelner bestehen, als vielmehr in den Formen kollektiven politischen Handelns, wie sie in der Zivilgesellschaft entwickelt werden. Heute verlieren ja leider Parteien und Gewerkschaften gerade in der jungen Generation an Anziehungskraft. Um so erfreulicher, dass gerade in der Digitalszene die Faszination etwa des Chaos Computer Clubs oder von Netzpolitik.org ungebrochen ist. Denn gerade in der Digitalen Gesellschaft muss die Zivilgesellschaft neben Markt und Staat als dritter Steuerungsmechanismus ein wichtige Aufgabe übernehmen, wenn sie demokratisch bleiben will. Mit „Prinzip Mensch“ wollen wir auch dafür werben.

        Ich hoffe, ich konnte Ihre Frage beantworten.
        Herzliche Grüße aus München

        Matthias Pfeffer

        Liken

  1. Spannendes Thema. Da die Demokratie bekanntlich nicht vorm Werktor bzw. vor dem Computer aufhört, würde mich interessieren, ob Ihr auch etwas zum Thema Mitbestimmung und Gute Arbeit formuliert habt. Der DGB hat erst kürzlich Eckpunkte KI für Gute Arbeit (https://www.dgb.de/themen/++co++90915258-9f34-11ea-9825-5254008f5c8c) formuliert. Er ist darauf auch in seiner Stellungnahme zum Weißbuch der EU eingegangen (https://www.dgb.de/++co++bbe000da-9f2a-11ea-bef5-525400e5a74a/DGB-Stellungnahme-zum-EU-Weissbuch-zur-KI-vom-19.02.2020.pdf)

    Liken

    1. Wir haben natürlich den Kampf von Amazon gegen Betriebsräte aufgespießt und auf die neue Selbstorganisation der Arbeitnehmer in den US Tech Riesen in Amerika hingewiesen. Wir behandeln auch den Schutz von Whistleblowern im Betrieb und dessen mögliche Erweiterung. Wichtiger ist aber, dass funktionierende Öffentlichkeit und Demokratie, ob durch Förderung der Vielfalt des Journalismus oder den Abbau von Machtkonzentration in der Wirtschaft, und der Schutz der Grundrechte, etwa durch die konsequente Anwendung und Durchsetzung der Datenschutzgrundverordnung, immer auch den Arbeitnehmern zugute kommen. Das Buch ist eine Einladung an Betriebsräte und Gewerkschaften, den Einsatz der allgemeinen Instrumente für Demokratie und Grundrechtsschutz zu unterstützen und diese allgemeinen Instrumente auch in der konkreten Betriebsarbeit zu nutzen. Das geschieht dann zum Beispiel dadurch, dass eine Betriebsrat eben die Datenschutzbehörde oder die Presse, oder beide, informiert, wenn im Betrieb etwas schief läuft, was den Umgang mit persönlichen Daten angeht. Und dass ein Betriebsrat weiß, dass die Schutzregeln der Datenschutzgrundverordnung auch gelten, wenn KI persönliche Daten der Arbeitnehmer im Betrieb verarbeitet.

      Liken

  2. Ich bin durch die Rezension des Deutschlandfunk auf diese Seite aufmerksam geworden und auf das Buch, das ich noch nicht die Zeit hatte zu lesen. Zwei Dinge mag ich an dieser Seite besonders: dass der Domainname auf „.eu“ endet, und dass gleich einer der ersten Kommentare von einer Mitarbeiterin der EU-Kommission stammt, die anscheinend nicht deutsche Muttersprachlerin ist. Dass eine englische Ausgabe bereits in Vorbereitung ist, zeigt, dass die internationale Dimension des Problems Ihnen sehr am Herzen liegt.
    Ist aber vor diesem Hintergrund nicht der Ansatz einer deutschen Diskussionsseite zur weiteren Diskussion mit der Zivilgesellschaft zu kurz gesprungen? Die politische Auseinandersetzung mit der zu großen Macht kommerziell orientierter Konzerne mit begrenztem demokratischen Bewusstsein wird ja auch in anderen Ländern geführt. Und die Chance auf ein entschlossenes und demokratisch legitimiertes Handeln zum Schutz der informationellen Selbstbestimmung und für ein ausgewogenes Verhältnis von Meinungsfreiheit und Verhinderung von Desinformation und Manipulation steigt, wenn die Diskussion europaweit auf breiter Basis geführt wird. Das Internet macht nun mal vor Sprach- und Ländergrenzen nicht wirklich Halt.

    Liken

    1. Die ganze Seite, einschließlich Kommentare und sogar Tweets, ist mit dem automatischen Übersetzer – siehe unten – in anderen Sprachen lesbar. Trotzdem haben Sie recht. Deshalb produzieren wir auch eine englische Ausgabe.

      Liken

  3. Dear Paul and Matthias,

    Congratulations on your Prinzip Mensch book! It is critical that thought leaders present the community with a clear vision of the type of society we want in the Information Age, at both sides of the Ocean.

    I hereby -respectfully- send you my new interdisciplinary research article: “The Right to Process Data for Machine Learning Purposes in the EU”. SSRN draft: https://papers.ssrn.com/sol3/papers.cfm?abstract_id=3653537. It will be published in the Harvard JOLT Digest 2020. Please find a short abstract below:

    Europe is now at a crucial juncture in deciding how to deploy data driven technologies in ways that encourage democracy, prosperity and the well-being of European citizens. The upcoming European Data Act provides a major window of opportunity to change the story. In this respect, it is key that the European Commission takes firm action, removes overbearing policy and regulatory obstacles, strenuously harmonizes relevant legislation and provides concrete incentives and mechanisms for access, sharing and re-use of data. The article argues that to ensure an efficiently functioning European data-driven economy, a new and as yet unused term must be introduced to the field of AI & law: the right to process data for machine learning purposes.

    Data has become a primary resource that should not be enclosed or commodified per se, but used for the common good. Commons based production and data for social good initiatives should be stimulated by the state. We need not to think in terms of exclusive, private property on data, but in terms of rights and freedoms to use, (modalities of) access, process and share data. If necessary and desirable for the progress of society, the state can implement new forms of property. Against this background the article explores normative justifications for open innovation and shifts in the (intellectual) property paradigm, drawing inspiration from the works of canonical thinkers such as Locke, Marx, Kant and Hegel.

    The article maintains that there should be exceptions to (de facto, economic or legal) ownership claims on data that provide user rights and freedom to operate in the setting of AI model training. It concludes that this exception is conceivable as a legal concept analogous to a quasi, imperfect usufruct in the form of a right to process data for machine learning purposes. A combination of usus and fructus (ius utendi et fruendi), not for land but for primary resource data. A right to process data that works within the context of AI and the Internet of Things (IoT), and that fits into the EU acquis communautaire. Such a right makes access, sharing and re-use of data possible, and helps to fulfil the European Strategy for Data’s desiderata.

    Best wishes from Amsterdam/Palo Alto,

    Mauritz Kop

    Dear Mauritz, your article moves forward a debate on a legal right of access to data and use of data produced or held by business which started in the political sphere in earnest with the proposal of Andrea Nahles, the then Chairwomen of the German SPD, for a „Data for all“ (Daten für alle) Law, inspited in turn by some thoughts of the academic Victor Mayer Schönberger and others: https://www.spd.de/aktuelles/daten-fuer-alle-gesetz/
    The EU has been pursuing an open data policy for the public sector and has law in place on the access to and use of public sector data: https://ec.europa.eu/digital-single-market/en/open-data. On access to private data the EU has been more timid, with non binding guidance only: https://ec.europa.eu/digital-single-market/en/guidance-private-sector-data-sharing. Your paper has the merit of spelling out private law instruments which could operationalise a general right to use private data for machine learning, together with limited exceptions to such a right. As you rightly say, the core of further work must focus on the question how to optimise such a right in order to have certainty on its beneficial effect rather than creating a dissincentive for developing data rich business models on which others could then take a free ride. The task of shaping the right and its limitations will be key not only for optimising it’s impact on european business and public good, but also as regards the question of whether such a right would command the necessary political support. I would agree with you that it is conceivable that such a right could have an enourmeous impact. I believe it is important in the future reflections on access to private data to keep in mind the power constellations in the digital economy and the concentration of data in the hands of a few as well as the concentration of knowledge how to extract maximum value from data, including through AI., as described in our book. The german Data Ethics Commission put down some thoughts on rules on access and use of private data, without being as concrete as you are: https://www.bmjv.de/DE/Themen/FokusThemen/Datenethikkommission/Datenethikkommission_EN_node.html
    Thank you for your contribution, let’s keep reflecting on this important issue of law, kind regards, Paul

    Liken

  4. Liebe Autoren,

    Herzlichen Dank für das „Prinzip Mensch“, ein Buch mit Meinung, das eine Einladung zum Diskurs enthält. Die möchte ich gern annehmen und zwei Gegemeinungen äussern und begründen – sorry, das ist etwas lang geworden. Ich hoffe, es passt in das Blog-Format auf der Seite….

    A. Die Kritik an den von Euch so genannten GAFAM überzeugt mich nicht vollends.

    1. Die Geschäftsmodelle der so zusammengefassten Unternehmen unterscheiden sich fundamental: Nur Google und Facebook sind Plattformen, die auf einem zweiseitigen Markt ‚umsonst‘ Leistungen für Endkunden anbieten, ihr Geld aber mit dem Verkauf des so erzeugten Traffic (und der damit generierten Daten) an Werbekunden verdienen. Amazon lebt nach wie vor überwiegend von der Handelsmarge, das Cloud-Geschäft wächst schnell, Werbeeinnahmen sind aber relativ gering. Microsoft‘s Gewinne stammen je zu etwa einem Drittel aus Cloud, Office/Dynamics für Geschäftskunden und den Endkundenprodukten. Apple schliesslich verdient am Verkauf von Hardware und Dienstleistungen – keine Werbung. Dies ist wichtig, weil diese Geschäftsmodelle zu ganz unterschiedlichen Anreizen dieser Unternehmen im Hinblick auf die von Euch behandelten Themen (i) Nutzung und Schutz von Daten, (ii) Selbstbestimmung und Freiheit der Nutzer und (iii) Regulierungsstrategie führen.

    2. Es kommt mir zu kurz, dass dies allesamt extrem junge Unternehmen sind, die ein enormes Wachstum erlebt haben, weil sie etwas Neues erfunden haben und anbieten, das die Menschen schätzen. Facebook (2004), Google (1998), Amazon (1994) sind alle jünger als 25 Jahre! Haltet mich für naiv, aber ich glaube nicht, dass Mark Zuckerberg sich damals irgendetwas von dem gedacht hat, worüber Ihr in Teilen E und F des Buchs schreibt. Das bedeutet nicht, dass der Ruf nach Regulierung falsch ist. Ich finde aber, dass die Würdigung der enormen Innovationskraft, die diese Unternehmen gezeigt haben, zu kurz kommt. Statt einen Slogan wie „Move fast and break things“ gleichsam als Kampfruf einer sich seit den 60er Jahren radikalisierenden kalifornischen ‚Querdenker’-Ideologie darzustellen (Mark Zuckerberg wurde 1984 geboren!), hättet Ihr mE wenigstens ein bisschen Empörung darüber zeigen können, dass Europa (trotz Kant, Humboldt und Medienpluralismus) in den letzten Jahrzehnten NICHTS Vergleichbares hervorgebracht hat.

    3. Es wird mir noch nicht klar genug, welche Abhilfe Ihr für welches Problem vorschlagt. Ich glaube, dass es hier insgesamt (auch in der EU-Kommission, die in wenigen Wochen ihre Digital Services und Digital Markets Acts vorstellen will), noch an Analyse und Tiefgang fehlt. Gegen die bei Euch wie auch in der beeindruckenden Netflix (!!)-Dokumentation „The Social Dilemma“ (https://en.Wikipedia.org/wiki/The_Social_Dilemma) erhobenen Vorwürfe der Meinungsmanipulation, Fremdsteuerung und Fragmentierung helfen ja der häufig vorgeschlagene Zugang zu Daten oder auch die „Zerschlagung“ der Plattformen nicht. Auch die im Buch ausführlich empfohlene „Technikfolgenabschätzung“ erscheint mir nicht effektiv, da sie mangels Vorhersehbarkeit der Entwicklung von Technik und Nutzung neuer Dienste systematisch zu „Type 2“-Fehlern führen dürfte, also zum Verbot von unbedenklichen Neuerungen – und damit zu Wohlstandsverlust. Was soll ein politisches Neutralitätsgebot für Plattformen (S. 308) bringen, wenn diese gar nicht politisch (im Sinne von rechts/links) sind, sondern die aus kommerziellen Gründen auf maximale Verweilzeit im Newsfeed getrimmten Algorithmen die (zum Teil nur latenten) Nutzerpräferenzen erkennen, verstärken und so zur politischen Fragmentierung (in jeder Richtung!) beitragen? Vieles hört sich gut an, etwa die Blanko-Forderung nach der gesetzlichen Pflicht, „Staat und Vollzugsbehörden dann Zugang zu Daten und Algorithmen zu gewähren, wenn es das öffentliche Wohl erfordert“ (S. 337) – aber rechtsstaatliche Bestimmtheit und Verhältnismässigkeit stelle ich mir anders vor.

    B. Die Gefahr für die Demokratie besteht in der Tat. Sie liegt aber nicht in der fehlenden Durchsetzung von (deutschem) Presse- und Medienrecht (S. 293f, 306) oder der Schwäche des Wettbewerbsrechts (S. 302f) gegenüber Sozialen Netzwerken.

    1. Ich stimme voll zu, dass Gesetz und Code verschieden sind (S. 324). Im Jahr 2000 habe ich in meiner Dissertation „Die Kontrolle digitaler Kommunikationsinhalte“ (http://www.a-von-bonin.de/Diss/Dissmaster.html) allerdings schon darauf hingewiesen, dass die (damals) bestehenden Gesetze auf digitale Kommunikation nicht passen und zu ihrer Regulierung nicht wirksam durchsetzbar sind. Ob sich heute wirksame „Kompromisstexte“ (S. 324) leichter finden lassen oder ob nicht vielmehr die Gefahr besteht, dass unbestimmte und unverhältnismässige Regeln dabei rauskommen, deren Auslegung in der Hand der Falschen (US Supreme Court?) fatale Folgen haben kann und deren Durchsetzung durchschnittlich ausgebildeten und ausgestatteten Vollzugsbehörden schlicht nicht möglich ist (es zählt der weltweite (!) Durchschnitt), sei dahingestellt.

    2. Als in den 1980er Jahren die ‚technologische Revolution‘ des Kabelfernsehens und damit verbunden des Privat(igitt!)fernsehens über Deutschland kam, reagierte die Demokratie mit einem heute grotesk anmutenden Regelungs- und Organisationskonvolut (Rundfunkstaatsvertrag, „gesellschaftlich relevante Gruppen“, Proporzbesetzung von Gremien, Rundfunkfinanzierung) zur Sicherung von Medienpluralität. All dies existiert im Wesentlichen unverändert bis heute. Heute geht es aber nicht mehr darum sicher zu stellen, dass die Wahrheit in den ‚Massenmedien‘ von mehreren Seiten gleichberechtigt interpretiert und kommentiert wird, damit der durch sie vermittelte öffentliche Diskurs demokratisch bleibt und nicht aus dem Ruder gerät. Heute gibt es die eine Wahrheit für die meisten nicht mehr. Statt dessen gibt es die durch die Social Media Algorithmen verstärkte Fragmentierung mit der Folge, dass sich der demokratische Diskurs nicht mehr in ‚der‘ Öffentlichkeit abspielt, sondern sich Einzelne, anonym oder offen, in selbstreferentiellen Teilöffentlichkeiten zusammenfinden (Ihr beschreibt dies genau auf S. 190ff). Dies führt zum Erstarken aller möglichen Ränder und Ecken der Öffentlichkeit und zur Aushöhlung der Mitte. Vor diesem Hintergrund frage ich mich, ob die Vorschläge auf S. 305-307 ausreichen, um die „gemeinsame Öffentlichkeit“ zu erhalten, die Ihr als Grundlage der Demokratie bezeichnet.

    3. Ich denke, dass das Problem letztlich noch tiefer liegt. Ihr beschreibt dies in Ansätzen in Teil C., 5.1 (S. 152). Die Demokratie beruht auf einem regelbasierten Entscheidungssystem. Entscheidungen werden (von Parlamenten und Exekutiven, in Kontinentaleuropa meist auch von Gerichten) durch Anwendung allgemeiner Regeln (Gesetze, Grundrechte, Werte) auf den Einzelfall getroffen. Zwar gilt der Satz „Dat ham wa schon imma so jemacht“ zwar vielen Beamten als beste Begründung einer Verwaltungsentscheidung, aber letztlich ist auch dies eine allgemeine Regel. Und Regeln können interpretiert (S. 324/325) und geändert werden. KI und machine learning dagegen basieren ihre Entscheidungen auf Daten, und zwar wie Ihr auf S. 152 schreibt, „alte Daten, ihre Prognosen sind Hochrechnungen der Vergangenheit“. Mit der Quantität der Daten und der Qualität ihrer Analyse steigt die Qualität der getroffenen Entscheidungen. Algorithmen können so im Idealfall das vorhandene Gesamtwissen (einschliesslich der Erfolgskontrolle vergangener Entscheidungen) für neue Entscheidungen nutzbar machen, den Besonderheiten des Einzelfalls Rechnung tragen, Fehler der Vergangenheit konsequent vermeiden und so eine theoretisch „fehlerfreie“ Entscheidung treffen. Der auf S. 153 beschriebene Fall des „Politikwechsels“ (der ja – je nach Konstellation – auch ein Risiko für gute Entscheidungsfindung sein kann) betrifft die Frage, welches Gut/welchen Wert der Entscheidungsalgorithmus optimieren soll. Anfangs vorgegeben, wird der Algorithmus aber auch diese Steuerungsgrösse mit der Zeit selbständig optimieren, denn er „lernt“, welche Werte besonders wichtig und daher besonders schutz- und förderungswürdig sind. Wenn alles gut läuft, dann braucht es den „Politikwechsel“, der ja immer ein Optimierungsversuch ist, nicht mehr, da der Algorithmus empirisch optimal arbeitet. Während in einem regelbasierten System die Regeln dazu dienen, Lehren aus der Vergangenheit für die Zukunft zu nutzen, übernimmt die Datenanalyse des Algorithmus diese Funktion in einem datenbasierten System. Die Demokratie als Prozess der Regelsetzung braucht es dann nicht mehr.

    Ich habe das Buch mit grosser Begeisterung gelesen und freue mich auf weitere Diskussionen!

    Andreas v. Bonin

    Liken

  5. Sehr geehrter Herr Nemitz,

    ich war am 09.11.2020 bei der GI-Runde zur Vorstellung Ihres Buches „Prinzip Mensch“ dabei.

    Hierzu habe ich noch folgende Fragen, Anmerkungen und Hinweise im CHAT gestellt:

    F: Kann nicht KI für „kritisches Überprüfen“ eingesetzt werden?

    Antwort PN: Ja, deshalb fordern wir in unserem Buch auch öffentliche Investitionen in die Entwicklung von Kontrolltechnologien. Bei Systemen mit möglicherweise sehr weitreichenden Auswirkungen wird man in Real Time ein unabhängiges KI Kontrollsystem mitlaufen lassen müssen, das nicht nur alle Schritte des Systems protokolliert, sondern auch kontrolliert, das bestimme Grenzwerte oder vorgegebenen Korridore nicht überschritten werden. Insbesondere, wenn Wertentscheidungen nötig sind, wird ein solches System immer zum Menschen zurückkehren und fragen müssen.

    F: Lässt sich nicht ein gewissermaßen „sicherer Schutz“ für Individuen gegenüber den GAFAM-Unternehmen aufbauen, indem ALLE eine Kombination von TOR- und BlockChain-Technologie genutzt wird?

    Antwort PN: Nein, ohne rechtliche Pflichten der Unternehmen wird es nicht gegen. Es ist zwar richtig, dass jeder Einzelne durch seine Technologienutzung das eigene Mass an Kontrolle und Daenschutz und Selbstbestimmung erhöhen kann. Die Vorstellung aber, dass Einzelne allein durch die Nutzung der richtigen Technologie sich den Herrschaftsambitionen von Big Tech entziehen können, ist naiv und falsch. Ohne Regulierung dieser Unternehmen und auch ohne starke öffentliche Kontroll – und Durchsetzungsinstanzen werden Einzelne allein der Macht dieser mächtigen Unternehmen nicht wiederstehen können. .

    F: Wie soll Technologie lernen ohne die Technologie-Konzerne funktionieren?

    Antwort PN: Um Kindern gutes Deutsch beizubringen, braucht man im Deutschunterricht nicht täglich die Bildzeitung lesen. Natürlich kann sie Gegenstand des Unterrichts sein, zum Beispiel für einer kritischen Analyse der Sprache der Boulevardpresse. Aber ansonsten sucht der Lehrer gute Literatur. Geht Technologie lernen nicht genauso ? Gibt es nicht für vieles, was die dominanten Tech Konzerne scheinbar „kostenlos“ anbieten, um persönliche Daten einzusammeln und Kinder auf ihre Systeme zu sozialisieren, bessere Alternativen ? Ich wünsche mir einen Technologie Unterricht, der den Status quo kritisch angeht und Alternativen aufzeigt. Ganz wird man nicht immer an den Giganten vorbeikommen. Aber wenn man ihnen begegnet, dann bitte kritisch und fragend. Denn eine kritische Haltung zu Machtkonzentration, auch in Technologie und Wirtschaft, das sollten wir lehren.

    Ihre Anmerkung: Alles was technisch möglich ist, wird gemacht und kaum oder nur wenig Rücksicht auf gesetzliche (lokal begrenztes) Recht nehmen…

    PN Antwort: Nein, Technologie muss das Primat von Recht und Demokratie akzeptieren. Wir verbieten bestimmte Technologien, Chemikalien, etc, andere sind strengen Zulassungsverfahren unterworfen. Selbstverständlich muss in einem Rechtsstaat lokales Recht eingehalten werden. Im EU Binnenmarkt ist das Ziel, einen Raum gemeinsamen Rechts so groß zu gestallten, das die wirtschaftlichen Voraussetzungen für erfolgreiche Innovation gegeben sind. An das Prinzip des Primats von Demokratie und Recht über Technologie zu erinnern wird in der immer mehr durch Technik beherrschten Lebenswelt immer wichtiger. Halten wir dieses Prinzip nicht auffrecht, akzeptieren wir eine vollständige Kontrolle unserer Lebensbedingungen durch Technik und Konzerne. Das wäre das Ende der Demokratie.

    F: Wie soll Bildung WERTE für das Morgen vermitteln, wenn die Gesellschaften selbst keine Kultur der Digitalität leben?

    PN Antwort: Schule und Bildung reflektiert nicht nur die Gesellschaft, wie sie heute ist. Sie bereitet auf das Morgen vor. Gute Bildung antizipiert deshalb. Die Vorstellungskraft des Menschen, übrigens den Maschinen nicht gegeben, erlaubt uns, schon heute über das Morgen zu lernen und zu reflektieren.

    F: Wurde das Klonen von Tieren nicht auch verboten? Hat es einzelne Wissenschaftler davon abgehalten, es zu tun? (analog Gen-Manipulationen am menschlichen Erbgut)

    Antwort PN: Das Recht ist nie Perfekt. Noch ist sein Durchsetzung vollkommen. Das heißt aber nicht, das Recht keinen Sinn macht. Wir brauchen in vielen Bereichen die Vorgabe der Norm, damit unsere Gesellschaft funktioniert. Wer perfekte Rechtsdurchsetzung fordert und Normen, die auf einem Kompromiss im demokratischen Prozess beruhen, und deshalb notwendig oft nicht technischen und wissenschaftlichen Perfektionsansprüchen genügen aus Prinzip ablehnt, sollte sich mit den unterschiedlichen Funktionsbedingung von Technik und Demokratie befassen. Die Funktionsbedingungen der Technik auf die Demokratie zu übertragen seihst die Demokratie beenden. Oder: Die einfache Norm, Du sollst nicht töten, wird täglich nicht befolgt. Wie würde unsere Gesellschaft aussehen, wenn wir diese Norm deshalb abschaffen ?

    Anmerkungen: INFORMATIK und Gesellschaft sind seit vielen Jahren Gegenstand des Informatik-Unterrichtes in der SEK II zumindest in THÜRINGEN… 🙂

    Klicke, um auf Informatik_und_Gesellschaft_unterrichten-S_Mueller.pdf zuzugreifen


    https://www.schulportal-thueringen.de/mint_unterricht/informatik?csthl=Lehrplan%20Informatik

    Hinweis: Schule der Zukunft: Das hier ist ein wirklich interessanter Beitrag von Harald Lesch (ca. 30 Minuten): https://youtu.be/ksCrRr6NBg0

    F: Der erwähnte KAMPF um das (EU-)RECHT kostet ebenfalls Mut, Kraft, Ausdauer und viel Geld. Wie soll das gelingen, ohne dass ein Kultur der Digitalität etabliert wurde?

    Die Durchsetzung des Rechts darf nicht allein den Einzelnen überlassen werden. Gerade wo es gewaltige Machtgefälle gibt, braucht es starke öffentliche Institutionen und eine Befähigung der organisierten Zivilgesellschaft, um Recht durchzusetzen und Gegenmacht zu entwickeln. Dass Gegenmacht auch digitale Werkzeuge braucht, und dass in diese auch mit staatlichen Mitteln investiert werden muss, liegt auf der Hand. Allerdings wird die Technologie allein die Probleme in unserer Gesellschaft nicht lösen.

    Über Ihre Antwort auf meine Fragen würde ich mich sehr freuen.

    Liebe Grüße

    Matthias Buchwald
    Fachlehrer Mathematik, Physik und Informatik

    ______ mobil gesendet von 01525 / 3507240_______

    Staatliches Gymnasium „Johann Wolfgang von Goethe“
    Amalienstr. 4
    99423 Weimar

    Tel.: 00493643-851672
    FAX: 00493643-851674
    Mobil: 00491525-3507240

    Mail: bm@goethegym.net und
    matthias.buchwald@schule.thueringen.de

    Homepage: http://www.goethegym.net

    privat:
    In den Steingelängen 14
    07751 Jena

    Liken

  6. Lieber Paul, Glückwunsch zu deinem Buch. Ich möchte noch auf dieses schöne Experiment hinweisen, das schon zwei Jahre alt ist: https://gizmodo.com/i-cut-google-out-of-my-life-it-screwed-up-everything-1830565500
    Wenn ich ca. 100.000 Datensätze von einer Person pro Woche erhebe, dann ist das wahrscheinlich das umfassendste Profil, welches man überhaupt von einer Person erstellen kann. Und Google führt diese Daten ja auch noch zu einem Profil zusammen gemäß der eigenen Datenschutzbestimmungen. Ich würde mir wünschen, dass wir jetzt stärker über die möglichen Maßnahmen gegen diese Übermacht diskutieren. Man könnte das Kartellrecht stringenter anwenden oder diese unsägliche Datenschutzgrundverordnung so anpassen, dass sich die GAFAMs nicht ins Fäustchen lachen.

    Liken

Kommentar verfassen

Trage deine Daten unten ein oder klicke ein Icon um dich einzuloggen:

WordPress.com-Logo

Du kommentierst mit Deinem WordPress.com-Konto. Abmelden /  Ändern )

Google Foto

Du kommentierst mit Deinem Google-Konto. Abmelden /  Ändern )

Twitter-Bild

Du kommentierst mit Deinem Twitter-Konto. Abmelden /  Ändern )

Facebook-Foto

Du kommentierst mit Deinem Facebook-Konto. Abmelden /  Ändern )

Verbinde mit %s

%d Bloggern gefällt das: