Die Antwort wurde namens der Bundesregierung mit Schreiben des Bundesministeriums für Bildung und Forschung vom 1. August 2018 übermittelt. Die Drucksache enthält zusätzlich – in kleinerer Schrifttype – den Fragetext. Deutscher Bundestag Drucksache 19/3714 19. Wahlperiode 03.08.2018 Antwort der Bundesregierung auf die Kleine Anfrage der Abgeordneten Mario Brandenburg, Dr. h. c. Thomas Sattelberger, Nicola Beer, weiterer Abgeordneter und der Fraktion der FDP – Drucksache 19/3225 – Künstliche Intelligenz – Rahmenbedingungen der technologischen Disruption für den gesellschaftlichen Alltag V o r b e m e r k u n g d e r F r a g e s t e l l e r Künstliche Intelligenz (im Folgenden KI) ist die große Unbekannte unserer Zeit. Während konservative Forscher von einem „Hype“ und einem Evolutionsschritt des „Machine Learning“ sprechen, sehen visionärere Vertreter dieser Zunft eine disruptive Entwicklung und die ersten Schritte eines transhumanen Zeitalters. Aus Sicht der Fragesteller verkennt die politische Debatte bisher, dass ein schwacher Teil „Künstlicher Intelligenz“ längst in vielen Bereichen des Alltages angekommen ist. Ob es Websuche mit Google, ein virtueller Sprachassistent wie Alexa, Siri und Co oder ein autonom fahrendes Fahrzeug ist, verschiedene Formen „Künstlicher Intelligenz“ befinden sich in unserem alltäglichen Leben. Deutschland muss diese Entwicklung durch sinnvolle institutionelle Rahmenbedingungen stützen, den Forschergeist stärken und Innovationen durch einfache Wettbewerbsregeln und Patentrechte fördern. Das „Future of Life Institute“ (https://futureoflife.org/) beschäftigt sich seit Jahren mit der Entwicklung Künstlicher Intelligenz. Unter anderem verfasste Max Tegmark (ein Mitbegründer des Instituts) das Buch „Leben 3.0“, in dem deutlich wird, auf welcher metaphysischen Ebene die Forscher und Wissenschaftler des Instituts das Thema bearbeiten. Unter menschlicher Intelligenz versteht man gemeinhin die Summe aller kognitiven Fähigkeiten zerebraler Prozesse. Sie beinhaltet alle mentalen sowie emotionalen Vorgänge des Gehirns. Kognitive Fähigkeiten umfassen das logischmathematische sowie das räumliche Denkvermögen, eine schnelle Auffassungsgabe gegebener, abstrakter, kreativer Sachverhalte, das Vermögen, diese Sachverhalte effektiv zu verarbeiten (Analyse, Bewertung, Reflektion), ein optimal genutztes Gedächtnis, Introspektion, Selbstreflektion und Empathie (beruht auf: Charles Spearman: General intelligence, objectively determined and measured. in: American Journal of Psychology. Band 15, 1904). Unter Künstliche Intelligenz auf metaphysischer Ebene verstehen wir deshalb nichtmenschliche, zerebrale Prozesse auf mindestens menschenähnlichem, menschengleichem oder sogar menschenübertreffendem Niveau. Vorabfassung - w ird durch die lektorierte Version ersetzt. Drucksache 19/3714 – 2 – Deutscher Bundestag – 19. Wahlperiode Um die Chancen der Technologie im globalen Wettbewerb zu nutzen und gleichzeitig den eventuellen Risiken einer möglichen Diskriminierung sowie dem Missbrauch autonom handelnder nichtmenschlicher Intelligenz (Kraftfahrzeuge , Waffen, Robotik, Versicherung sowie Banken) vorzubeugen, muss die Politik eindeutige Signale senden, wie sie zukünftig die rechtlichen sowie gesellschaftlichen Rahmenbedingungen für den weiteren Transfer der Schlüsseltechnologie „Künstliche Intelligenz“ entwickeln möchte. Dabei sollte sich die Bundesregierung nach Meinung der Fragesteller dafür einsetzen, dass bereits bei der Entwicklung und Transferleistung die Aspekte der Fairness, des Datenschutzrechtes , Transparenz und der rechtlichen sowie gesellschaftlichen Verantwortlichkeit berücksichtigt werden. V o r b e me r k u n g d e r B u n d e s r e g i e r u n g Die Bundesregierung ist entschlossen, sowohl Forschung und Entwicklung als auch Anwendung von KI in Deutschland und Europa auf ein weltweit führendes Niveau zu bringen. Sie sieht sich in der Pflicht, eine verantwortungsvolle und gemeinwohlorientierte Nutzung von KI in Zusammenarbeit mit Wissenschaft, Wirtschaft, Staat und der Zivilgesellschaft voranzubringen. Dies geschieht auf der Grundlage europäischer Werte wie der Unantastbarkeit der Menschenwürde, der Achtung der Privatsphäre und des Gleichheitsgrundsatzes. Dabei wollen wir Wertschöpfung aus der Anwendung von KI erzeugen und den Nutzen von KI für die Bürgerinnen und Bürger in den Fokus unserer Bemühungen stellen und insbesondere veränderungsbedingte Risiken minimieren, Systeme überprüfbar machen und unzulässige Diskriminierungen unterbinden. Die Debatte um KI sollte in erster Linie faktenbezogen bleiben. KI ist im Wesentlichen eine spezielle Form von Software – teilweise unter Nutzung spezialisierter Hardware – und wissenschaftlich ein Teilgebiet der Informatik. Die KI nutzt spezifische Methoden, aber unterliegt letztlich genau denselben Bedingungen und Grenzen wie auch die Informatik insgesamt. Die Bundesregierung zielt daher darauf ab, die KI-Debatte zu versachlichen und unhaltbare Erwartungen ebenso zu dämpfen wie unbegründeten Ängsten entgegenzuwirken. Mit den Eckpunkten für eine KI-Strategie der Bundesregierung wurde ein Handlungsrahmen gesetzt und eine Reihe von Einzelmaßnahmen und Prozessen angestoßen , um dem Anspruch gerecht zu werden, die KI-Nutzung in Deutschland und Europa zum Wohle der Bürgerinnen und Bürger aktiv zu gestalten. Im Rahmen der Ausgestaltung und Umsetzung der Strategie werden viele der in der vorliegenden Kleinen Anfrage angesprochenen Aspekte und Rahmenbedingungen für eine erfolgreiche KI-Nutzung adressiert werden. 1. Inwieweit ist die Bundesregierung in der Lage, die Auswirkungen von KI auf Makro-, Meso- und Mikro-Ebene zu bewerten bzw. zu beeinflussen? Welches Ressort beschäftigt sich federführend mit den Fragen zu KI? Die Entwicklung und Verbreitung von Technologien der KI ist ein laufender, offener Prozess, den die Bundesregierung eng verfolgt und im Rahmen ihrer Möglichkeiten aktiv mitgestalten wird. Wie aus den Eckpunkten zur geplanten Strategie Künstliche Intelligenz, die die Bundesregierung am 18. Juli 2018 verabschiedet hat, ersichtlich, ergreift und plant die Bundesregierung eine Reihe von Maßnahmen , um diesen Prozess im Interesse der Bundesrepublik zu gestalten. Vorabfassung - w ird durch die lektorierte Version ersetzt. Deutscher Bundestag – 19. Wahlperiode – 3 – Drucksache 19/3714 Innerhalb der Bundesregierung beschäftigen sich die Ressorts Bundesministerium für Bildung und Forschung (BMBF), Bundesministerium für Wirtschaft und Energie (BMWI) und Bundesministerium für Arbeit und Soziales federführend mit Fragen zu KI, weitere Ressorts im Rahmen ihrer eigenen Zuständigkeiten. 2. Wie passt die nationale KI-Strategie für Deutschland (Masterplan KI), die laut Bundesregierung bis Herbst 2018 vorliegen soll (Bundestagsdrucksache 19/1982, Antwort zu den Fragen 12 und 13) in den Kontext der KI-Strategien Frankreichs, Finnlands oder anderer europäischer und außereuropäischer Staaten (z. B. der USA unter der Obama-Administration)? Wie unterscheidet sich der Masterplan KI Deutschlands zu dem Frankreichs, Chinas oder der USA? Die Bundesregierung hat am 18. Juli 2018 Eckpunkte für die Strategie Künstliche Intelligenz verabschiedet. Da die Strategie auf dieser Basis und auf Grundlage weiterer Konsultationen im Einzelnen erst erarbeitet wird, kann derzeit noch keine Aussage dazu getroffen werden, wie sie sich zu den KI-Strategien anderer Staaten verhalten wird. Die Bundesregierung verfolgt aber grundsätzlich das Ziel einer engen Zusammenarbeit auf europäischer Ebene. 3. In welcher Weise ist die Bundesregierung während des europäischen Strategieprozesses zu KI involviert? Die Bundesregierung ist insbesondere im Rahmen der bestehenden Europäischen Plattform nationaler Initiativen zur Digitalisierung der Wirtschaft in den europäischen Strategieprozess zu KI involviert und darüber hinaus auch in direktem Kontakt mit den entsprechenden Dienststellen der Europäischen Kommission. 4. Wie bewertet die Bundesregierung die Initiative von 600 europäischen KI- Forschern, die sich für die Gründung einer europäischen Forschungsgemeinschaft aussprechen (www.heise.de/newsticker/meldung/Europaeisches-KI- Buendnis-600-Experten-fordern-groessere-Anstrengungen-4080585.html)? Die Bundesregierung teilt die Einschätzung der 600 europäischen KI-Forscher im oben genannten Aufruf, dass Europa mehr Anstrengungen bei KI-Forschung und -Entwicklung betreiben muss, um international wettbewerbsfähig zu bleiben. Auch das Ziel, der Abwanderung von Talenten zu KI entgegenzuwirken und einen eigenen europäischen Ansatz für KI-Forschung zu stärken, bei dem Verantwortung und der Nutzen der Technik für den Menschen im Vordergrund steht, wird geteilt. Ob die Gründung einer europäischen KI-Forschungsgemeinschaft hierzu einen substantiellen Beitrag leisten kann, wird vom BMWI und BMBF in den geplanten Expertenanhörungen zu klären sein. 5. Wie gewährleistet die Bundesregierung eine positive Forschungs- und Innovationskultur , die alle Akteure (Politiker, Wissenschaftler, Zivilgesellschaft) einbezieht und Transparenz sowie Vertrauen in KI schafft? Die Bundesregierung ist sich der Wichtigkeit dieser Aspekte bewusst und gestaltet auch aus diesem Grund die Erarbeitung der Strategie Künstliche Intelligenz der Bundesregierung als offenen Prozess, der eine breite Einbeziehung aller Akteure erreichen soll. Darüber hinaus hat auch die Plattform Lernende Systeme, die auf Initiative des BMBF im vergangenen Jahr ins Leben gerufen wurde, zum Ziel, eine breite Einbeziehung von Akteuren zu gewährleisten. Vorabfassung - w ird durch die lektorierte Version ersetzt. Drucksache 19/3714 – 4 – Deutscher Bundestag – 19. Wahlperiode 6. Wie will die Bundesregierung die Diskrepanz in der Forschungsförderung im Vergleich zu den Gehältern von US-Firmen für KI-Experten angleichen (www.nytimes.com/2018/04/19/technology/artificial-intelligence-salariesopenai .html.)? Was den Vergleich von KI-Experten, die bei Unternehmen in den USA angestellt sind und solchen, die bei Unternehmen in Deutschland/Europa angestellt sind, betrifft, so sind diese Unternehmen frei in der Festlegung ihrer Bezahlung. Dies liegt nicht im Einflussbereich der Bundesregierung. Die Bundesregierung setzt sich dafür ein, dass Deutschland ein attraktiver Forschungs - und Wirtschaftsstandort für KI-Expertinnen und -Experten aus dem Inund Ausland ist. Dazu gehört auch die Steigerung der Attraktivität von Arbeitsund Entlohnungsbedingungen im Rahmen der gesetzlichen Möglichkeiten. 7. Wie viele dedizierte KI-Professuren an Universitäten, Hochschulen sowie weiteren Institutionen gibt es nach Kenntnis der Bundesregierung derzeit in Deutschland (bitte Namen und Lehrstuhl/Arbeitsgruppe angeben)? KI ist eine Teildisziplin der Informatik. Die Abgrenzung zu anderen Themengebieten im Bereich IT/Informatik/Datenwissenschaften ist unscharf. KI spielt u. a. auch in der Linguistik, Psychologie und Medizin eine Rolle. Daher liegen der Bundesregierung keine Zahlen zu dedizierten „KI-Professuren“ vor. 8. Wie ermöglicht die Bundesregierung nationale, nicht befristete Forschung zum Thema KI in Anbetracht internationaler Projekte wie der „100 Year Study on AI (AI 100)“ in Stanford/US (https://ai100.stanford.edu; bitte Fördergeber und Programm/Ausschreibung angeben)? Die Bundesregierung ermöglicht nationale, nicht befristete Forschung im Rahmen der institutionellen Förderung von Forschungseinrichtungen (z. B. Max- Planck-Gesellschaft zur Förderung der Wissenschaften e. V., Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung; Helmholtz-Gemeinschaft) und im Rahmen der Ressortforschung. Dabei wird auch KI-Forschung berücksichtigt. 9. Mit welchen Maßnahmen plant die Bundesregierung, dem Wettbewerbsvorteil von China und den USA im Bereich Investitionen in KI entgegen zu wirken (z. B. www.handelsblatt.com/politik/deutschland/deutsch-franzoesischekooperation -china-investiert-massiv-in-kuenstliche-intelligenz/20982190-2. html?ticket=ST-547488-9nhrTIeVgBjKZafbnVu0-ap3)? Welche Investitionen werden getätigt? Welche Maßnahmen werden ergriffen, um das Know-how und die Implementierung im Bereich KI in der freien Wirtschaft zu entwickeln? Welche Standortfaktoren sind aus Sicht der Bundesregierung in Deutschland für die Entwicklung von KI-bezogenen Produkten relevant? Es wird auf die Eckpunkte der Bundesregierung für eine Strategie Künstliche Intelligenz vom 18. Juli 2018 verwiesen. Hinsichtlich der bereits getätigten Investitionen wird zudem auf die Antwort der Bundesregierung zu Frage 3 der Kleinen Anfrage der Fraktion BÜNDNIS 90/DIE GRÜNEN auf Bundestagsdrucksache 19/1982 verwiesen. Vorabfassung - w ird durch die lektorierte Version ersetzt. Deutscher Bundestag – 19. Wahlperiode – 5 – Drucksache 19/3714 10. Wie wird die Bundesregierung in Zusammenarbeit mit der KMK (= Kulturministerkonferenz ), der IHK (= Industrie- und Handelskammer) und der Handwerkskammer Bildungsinhalte in Schule, Ausbildung, Studium verändern ? Welche Programme entwickelt die Bundesregierung, um der berufstätigen Bevölkerung zum langfristigen Erfolg zu verhelfen? Welches Bildungssystem passt auf die sich ständig weiterentwickelnde KI? Die Digitalisierung hat in allen Bildungsbereichen einen Einfluss auf Bildungsbedarf und Bildungsverständnis. Zukünftig werden neue Qualifikationen und neue Kombinationen von Qualifikationen ebenso benötigt wie neue Ausbildungsformate . In der beruflichen Bildung wird die im Jahr 2016 gestartete Dach-Initiative Berufsbildung 4.0 weitergeführt und ausgebaut. Berufsbildung 4.0 zielt darauf ab, die Auszubildenden und Erwerbstätigen durch eine fundierte Aus- und Weiterbildung auf die sich durch die Digitalisierung neu ergebenen bzw. veränderten Kompetenzanforderungen vorzubereiten. Dazu zählt, die Berufsbilder kontinuierlich zu modernisieren, die digitale Ausstattung der überbetrieblichen Bildungsstätten und Kompetenzzentren zu stärken, den Einsatz digitaler Medien in der Ausbildung zu fördern und die Ausbilderinnen und Ausbilder in den Betrieben und Bildungsstätten, die Lehrkräfte an den Berufsschulen und auch die Prüferinnen und Prüfer entsprechend zu qualifizieren. 11. Wie baut die Bundesregierung die – im Lichte von maschinellem Lernen und KI – immer wichtiger werdende lebenslange Weiterbildung in die Erwerbsbiographien ein? Welche ökonomischen Richtlinien sind nach Ansicht der Bundesregierung hilfreich, um gute neue Jobs zu schaffen? Wir erleben gegenwärtig, dass die Digitalisierung alle Lebensbereiche durchdringt . Der grundlegende Wandel wird Auswirkungen auf die Qualifikationsprofile und Erwerbsbiographien haben. Davon sind Ausbildungsordnungen betroffen , aber auch zunehmend die Inhalte der Fort- und Weiterbildung. Gerade die bereits seit Jahren Berufstätigen müssen verstärkt in ihrer Anpassungsleistung an den Wandel unterstützt werden. Lebenslanges Weiterlernen muss fester Teil der Erwerbsbiografien werden. Die Bundesregierung hat deshalb mit der Initiative Berufsbildung 4.0 sowie mit dem Dialogprozess Arbeiten 4.0 reagiert. Um Wohlstand und Wettbewerbsfähigkeit auch in Zukunft zu sichern, müssen wir dafür sorgen, dass alle Arbeitnehmerinnen und Arbeitnehmer die richtigen Kompetenzen und Qualifikationen haben. Dazu ist es erforderlich, Qualifikation zu erhalten und beruflichen Aufstieg zu ermöglichen. Die Bundesregierung wird deshalb Beratung und Qualifizierung stärken. Zur nachhaltigen Sicherung der Beschäftigungsfähigkeit wird die Bundesregierung gemeinsam mit den Sozialpartnern und in enger Abstimmung mit den Ländern eine Nationale Weiterbildungsstrategie beraten und umsetzen. Vorabfassung - w ird durch die lektorierte Version ersetzt. Drucksache 19/3714 – 6 – Deutscher Bundestag – 19. Wahlperiode 12. Setzt sich die Bundesregierung dafür ein, dass stark anstrengende und routineartige Arbeit durch KI-betriebene Roboter oder Systeme übernommen wird? Inwieweit sind diese Arbeiten komplett ersetzbar? Eine allgemeine Aussage zur Substitution von Arbeitsplätzen durch KI-betriebene Roboter oder Systeme ist nicht möglich. KI-Technologien und darauf fußende Robotik haben jedoch grundsätzlich das Potenzial stark anstrengende und routineartige Arbeiten, die heute von Menschen geleistet werden müssen, zu substituieren. Sie können daher dazu beitragen, Arbeitnehmerinnen und Arbeitnehmer von gesundheitsgefährdenden oder psychologisch belastenden Arbeitsbedingungen zu entlasten. Da die Diffusion von neuen Technologien in Arbeits- und Produktionsprozesse stark branchenspezifisch und von der Unternehmensgröße abhängig ist, lässt sich jedoch derzeit nicht bewerten, wie weit die Substitution solcher Tätigkeiten durch KI-Technologien reicht. Derzeit sind die Menschen den Maschinen in der Sensormotorik noch deutlich überlegen auch wenn Maschinen im kognitiven Bereichen dabei sind, menschliche Fähigkeiten zu haben bzw. teilweise diese übersteigen. Bis auf weiteres ist aber davon auszugehen, dass KI bei anspruchsvollen Tätigkeiten eher komplementär zu menschlichen Kompetenzen eingesetzt wird, als diese komplett zu ersetzen . 13. Wie bewertet die Bundesregierung im Zusammenhang von KI-gestützten Robotersystemen und einem hohen Automatisierungsgrad Bilanzierungsmethoden , die auf nicht kapitale sondern sozial relevante Faktoren wie Gemeinwohl , Ehrenamt und sozialer Zusammenhalt abzielen? Die Bundesregierung beobachtet die Entwicklung und Anwendung weiter, auch vor dem Hintergrund der technischen, wirtschaftlichen und sozialen Entwicklungen . Der Einsatz von KI und die Digitalisierung allgemein stellt auch für die Bilanzierung eine Herausforderung dar. 14. Ist die Bundesregierung der Auffassung, dass aktuelle Datenschutzregelungen , inklusive der vorhandenen Datenklassifizierungen (personenbezogen und nicht personenbezogen), feingranular genug sind, um Forschung bzw. maschinelles Lernen auf Basis digitalisierter DNA-Informationen oder Hirnströmen zu kontrollieren? Welche Aufgabe übernimmt die von der Bundesregierung geplante Daten- Ethikkommission dabei (Bundestagsdrucksache 19/1982, Antwort zu den Fragen 16 und 17)? Wie will sie das Spannungsverhältnis zwischen Verbraucher- und Datenschutz auflösen? Sowohl auf nationaler als auch auf europäischer Ebene gibt es ausdifferenzierte Datenschutzregelungen, die dem Umgang mit sensiblen Daten sowie in sensiblen Verarbeitungssituationen Rechnung tragen und besondere Schutzvorkehrungen vorsehen (unter anderem die Datenschutz-Grundverordnung, Open Data). Daneben gibt es zahlreiche gesetzgeberische Initiativen, die den Umgang mit Daten betreffen (unter anderem die e-Privacy-Verordnung und die Verordnung über den freien Verkehr nicht personenbezogener Daten). Sie sollen einerseits Grundrechte wie das Recht auf informationelle Selbstbestimmung wahren und andererseits in diesem Rahmen nützliche und innovative Datenverarbeitungen ermöglichen. Diskutiert werden in der Fachöffentlichkeit darüber hinaus weitere Vorschläge, ob und wie der Zugang zu Daten, die Nutzung von Daten, der Handel mit Daten und Vorabfassung - w ird durch die lektorierte Version ersetzt. Deutscher Bundestag – 19. Wahlperiode – 7 – Drucksache 19/3714 Rechte an Daten erstmals oder besser reguliert werden könnten. Die Datenethikkommission wird sich entsprechend der Vorgaben des Koalitionsvertrags unter anderem mit der Datenpolitik, dem Umgang mit Algorithmen, KI und digitalen Innovationen beschäftigen und 2019 hierzu ethische Leitlinien und Handlungsempfehlungen vorlegen. 15. Inwieweit plant die Bundesregierung, Richtlinien für die Auswertung und Verwertung von personenbezogenen und nicht personenbezogenen Daten deutscher Bürgerinnen und Bürger sowie Wirtschafts- und Verhaltensdaten deutscher Unternehmen durch Dritte außerhalb Deutschlands, insbesondere außereuropäische Länder und Organisationen, zu schaffen? Die Bundesregierung plant keine eigenen „Richtlinien“ für die Verarbeitung von Daten außerhalb Deutschlands bzw. außerhalb der EU. Für die Verarbeitung personenbezogener Daten durch Unternehmen gilt insbesondere die Datenschutz- Grundverordnung. Darüber hinaus stellen auf nationaler Ebene zahlreiche weitere Gesetze zum Beispiel des Zivil-, Straf-, Wettbewerbs- und Urheberrechts Regelungen für die Auswertung und Verwertung von Daten auf. Auf EU-Ebene ist die Verarbeitung personenbezogener und nicht-personenbezogener Daten Gegenstand verschiedener laufender Normsetzungsverfahren, wie zum Beispiel der Vorschlag für eine „Verordnung über die Achtung des Privatlebens und den Schutz personenbezogener Daten in der elektronischen Kommunikation und zur Aufhebung der Richtlinie 2002/58/EG“ und der Vorschlag für eine „Verordnung über einen Rahmen für den freien Verkehr nicht personenbezogener Daten in der Europäischen Union“. 16. Nach welchem Rechtsrahmen werden zukünftig autonom handelnde, aber humanistisch trainierte Algorithmen beurteilt, wenn die Grenzen zwischen selbst lernenden Maschinen und human soziologisch konventionellem Verhalten durch gesellschaftlich akzeptierte Verhaltensmuster und Daten verschwimmen ? Wie wird die Bundesregierung mit dem Spannungsverhältnis zwischen Urteilsschlüssen in der Rechtsprechung und den Wahrscheinlichkeitsurteilen dieser Algorithmen umgehen? Der Bundesregierung liegen keine Anhaltspunkte dafür vor, dass „autonom handelnde , aber humanistisch trainierte Algorithmen“ derzeit oder künftig bei der Entscheidungsfindung staatlicher Gerichte zum Einsatz kommen könnten. 17. Wie gewährleistet die Bundesregierung, dass sie in angemessener Zeit einen Rechtsrahmen für die sich dynamisch ändernden Innovationen im Umfeld von KI entwickelt? Die Bundesregierung hat eine Daten-Ethikkommission eingesetzt, die Regierung und Parlament innerhalb eines Jahres einen Entwicklungsrahmen für Datenpolitik , den Umgang mit Algorithmen, KI und digitalen Innovationen vorschlagen wird. Vorabfassung - w ird durch die lektorierte Version ersetzt. Drucksache 19/3714 – 8 – Deutscher Bundestag – 19. Wahlperiode 18. Wie ist aus Sicht der Bundesregierung dem Problem der sogenannten digitalen Voreingenommenheit aufgrund von menschlich geschaffenen Filterblasen und Vorurteilen in Daten („confirmation bias“ in z. B. www.ssoar. info/ssoar/handle/document/51482) zu begegnen? Confirmation bias und digitale Filterblasen stehen in einem größeren Zusammenhang algorithmischer Informationssteuerung und Entscheidungsprozesse und KI. Die Bundesregierung wird hier auf die Ergebnisse der Datenethikkommission achten, die sich u. a. auch mit gesellschaftlich relevanten Fragen algorithmenbasierter Entscheidungsprozesse und KI befasst und Empfehlungen vorlegen wird, wie Risiken von staatlicher Seite adressiert werden sollten. 19. Wie plant die Bundesregierung, Fehlentscheidungen durch Programmierfehler und Informations-Bias zu erkennen, zu bewerten und zu korrigieren, um betroffene Bürgerinnen und Bürger innerhalb kürzester Zeit zu rehabilitieren ? Welche Maßnahmen ergreift die Bundesregierung im Ausland, um deutsche Bürgerinnen und Bürger bei Fehlentscheidungen, welche auf Basis fehlerhafter Daten getroffen werden, zu unterstützen? 20. Wie stellt die Bundesregierung sicher, dass die Algorithmen von KI in vollem Umfang den erwarteten Anforderungen der Datenwissenschaften (Integrität , Authentizität usw.) genügen? Die Fragen 19 und 20 werden wegen ihres Sachzusammenhanges gemeinsam beantwortet . Die Bundesregierung wird den Auftrag des Koalitionsvertrags umsetzen, wonach „zum Schutz der Verbraucherinnen und Verbraucher Algorithmen- und KI-basierte Entscheidungen, Dienstleistungen und Produkte überprüfbar gemacht werden sollen, insbesondere im Hinblick auf mögliche unzulässige Diskriminierungen , Benachteiligungen und Betrügereien“. Die Bundesregierung wird die KI- Forschung ausbauen und dabei unter anderem die Entwicklung von Verfahren zur Kontrolle und Nachvollziehbarkeit algorithmenbasierter Prognose- und Entscheidungssysteme fördern, um so unter anderem Programmierfehler und Informations -Bias zu erkennen. 21. Plant die Bundesregierung im Lichte, dass E-Justice allmählich Einzug in das juristische Berufsfeld (z. B. verhandeln Algorithmen Verkehrsdelikte in den USA) hält (www.donotpay.com/), mittelfristig sogenannte Roboschlichter einzusetzen? Inwiefern ist Rechtsberatung einer KI mit Standesrecht und menschlichen Anwälten hinsichtlich Berufshaftpflicht und Schweigepflicht vereinbar? Der Einsatz von Robo-Schlichtern als Streitmittler einer anerkannten Verbraucherschlichtungsstelle ist nach derzeitiger Rechtslage unzulässig. Streitmittler kann nur sein, wer über die Befähigung zum Richteramt oder den Status des zertifizierten Mediators verfügt (§ 6 Absatz 2 Satz 2 des Verbraucherstreitbeilegungsgesetzes ). Das Verbraucherstreitbeilegungsgesetz ist aber offen für unterschiedliche Methoden der Konfliktlösung. Die Bundesregierung wird daher die weitere Entwicklung von KI auch mit Blick auf deren Einsatz im Rahmen der Verbraucherschlichtung beobachten. Eine Rechtsberatung durch KI ist nach derzeitiger Rechtslage unzulässig. Die Verantwortung für den Einsatz von KI im Bereich der Rechtsberatung muss immer ein Mensch tragen. Für die Rechtsberatung mit Hilfe von KI gelten die allgemeinen Vorschriften insbesondere der Bundesrechtanwaltsordnung und des Rechtsdienstleistungsgesetzes. Vorabfassung - w ird durch die lektorierte Version ersetzt. Deutscher Bundestag – 19. Wahlperiode – 9 – Drucksache 19/3714 22. Ist die Bundesregierung in ein internationales Abkommen zu autonomen Waffensystemen involviert? Wenn nein, warum nicht? Wenn ja, wie sieht dieses aus, und sollten beispielsweise nur tödliche autonome Waffen unter ein Verbot fallen oder auch solche, die Menschen schwer verletzen? Auf die Antwort der Bundesregierung zu Frage 3 der Kleinen Anfrage der Fraktion BÜNDNIS 90/DIE GRÜNEN auf Bundestagsdrucksache 19/2816 wird verwiesen . 23. Wird die Bundesregierung die Entwicklung, Produktion oder den Besitz autonomer Waffensysteme verbieten oder unterstützen? Falls sie sie unterstützt, um welche Forschungseinrichtungen handelt es sich dabei? Auf die Antwort der Bundesregierung auf die Kleine Anfrage der Fraktion BÜNDNIS 90/DIE GRÜNEN auf Bundestagsdrucksache 19/2816 wird verwiesen . 24. Sollte ein Verbot für sämtliche autonome Waffensysteme gelten, oder nur für die offensiven, so dass defensive Systeme wie autonome Fliegerabwehrgeschütze , „intelligente“ Landminen und Raketenabwehr erlaubt wären? International setzt sich die Bundesregierung aktiv dafür ein, dass autonome letale Waffensysteme, bei denen die Entscheidungsgewalt über Leben und Tod dem Menschen entzogen ist, verhindert werden. Der im Rahmen der Waffenkonvention der Vereinigten Nationen (CCW) verwendete Begriff „Autonome Waffensysteme “ berücksichtigt nach dem Verständnis der Bundesregierung keine Waffensysteme , die auf autonomen Teil-Funktionalitäten basieren, wie z. B. militärische Schutzsysteme. 25. Wie sollte ein möglicher Vertrag zwischen den Staaten der Welt aussehen, angesichts der Tatsache, dass die meisten Bestandteile einer autonom handelnden und selbst lernenden Waffe auch für zivile Zwecke verwendet werden können? Welchen Mehrwert könnten autonome Waffensysteme besitzen, wenn sie einem internationalen ethischen Standard unterlägen? Wie müsste das Kriegsrecht umgeschrieben werden? Nach Überzeugung der Bundesregierung müssen alle Waffen und Waffensysteme stets unter wirksamer menschlicher Kontrolle stehen. Oberste Leitlinie in allen Fragen des Einsatzes von Kriegswaffen sind die Vorgaben des internationalen Rechts, insbesondere des humanitären Völkerrechts, das u. a. den Einsatz von Waffen verbietet, wenn nicht zwischen Kämpfern und Zivilisten unterschieden werden kann und gegen das Gebot zur Verhinderung übermäßiger Leiden verstoßen wird. Insbesondere muss bei Entscheidungen über Leben und Tod immer der Mensch die letzte Verantwortung tragen. Im Übrigen wird auf die Antworten zu den Fragen 22 und 24 verwiesen. Vorabfassung - w ird durch die lektorierte Version ersetzt. Drucksache 19/3714 – 10 – Deutscher Bundestag – 19. Wahlperiode 26. Wie sieht die mittelfristige Perspektive der Bundesregierung in KI-gestützter Gesundheitsforschung (z. B. in der assistierten Chirurgie; https://arxiv.org/ abs/1507.03518) aus? Welche Forschungsprojekte unterstützt sie (bitte Projekttitel, das jeweilige Ziel, die Projektbeteiligten, Fördersummen und Laufzeiten der Projekte angeben )? Schon jetzt kommt KI in der Gesundheitsforschung an verschiedenen Stellen zum Einsatz, etwa bei der Auswertung von medizinischen Bildinformationen oder im Rahmen von „Assist-as-needed“-Konzepten, die eine adaptive und individuelle Orientierung von Roboterkomponenten an den Bewegungsmöglichkeiten von mobilitäts-eingeschränkten Menschen realisieren sollen. Zukünftig gilt es, die KI als eine der Schlüsseltechnologien der Digitalisierung und Grundlage für eine digitale Medizin weiter zu stärken. Zum anderen soll die translationale Forschung gefördert werden, die die Überführung innovativer Gesundheitsanwendungen, die auf Methoden der KI basieren, in den Versorgungsalltag unterstützen kann. Derzeit fördert die Bundesregierung die in Anlage 1 genannten Projekte aus dem Bereich der Gesundheitsforschung, bei denen KI Gegenstand ist oder zum Einsatz kommt bzw. die als Grundlage dienen. 27. Wie positioniert sich die Bundesregierung zu sogenannten Sexrobotern (z. B. www.spektrum.de/kolumne/sex-auf-knopfdruck/1556760)? Welcher Rechtsrahmen greift dafür? Wenn sie als medizinisches Therapiegerät betrachtet werden, können Ärzte eine Behandlung mit Sexrobotern verschreiben? Wenn ja, wird die Behandlung von den Krankenkassen erstattet werden? Wem gehören die Analysedaten, die dem Roboter ermöglichen, die persönliche Einstellung von Empathie zu erlernen? Die gesetzliche Krankenversicherung als Solidargemeinschaft hat die Aufgabe, die Gesundheit der Versicherten zu erhalten, wiederherzustellen oder ihren Gesundheitszustand zu verbessern (§ 1 des Fünften Buches Sozialgesetzbuch). Es ist nicht ersichtlich, wie sogenannte Sexroboter zur Erfüllung dieser Aufgabenstellung beitragen könnten. 28. Wird die Bundesregierung KI und Algorithmen in der Verbrechensbekämpfung einsetzen? Falls ja, wie gewährleistet sie Schutz vor Missbrauch und Fälschung der Software? Wie erschafft die Bundesregierung Vertrauen bei Bürgerinnen und Bürgern sowie Respekt in die rein logischen Urteile bzw. Entscheidungen einer KI? Wer erhält das Letztentscheidungsrecht? Bei der Bundespolizei wird derzeit keine KI in der Kriminalitätsbekämpfung eingesetzt . Im Bundeskriminalamt (BKA) werden Verfahren der KI und der automatisierten Mustererkennung im Einzelfall in Ermittlungsverfahren zur Unterstützung bei der Auswertung von Massendaten eingesetzt. Eigene Urteile bzw. Entscheidungen werden von den genutzten Algorithmen nicht getroffen. Dies ist auch zukünftig nicht geplant. Vorabfassung - w ird durch die lektorierte Version ersetzt. Deutscher Bundestag – 19. Wahlperiode – 11 – Drucksache 19/3714 Die Zentrale Stelle für Informationstechnik im Sicherheitsbereich (ZITiS) nutzt Algorithmen im Bereich der Kryptologie. Dabei werden keine unabhängigen logischen Entscheidungen getroffen, sondern Routinen zur Entschlüsselung von kryptierten Verfahren im Sinne der Strafverfolgung verwendet. Mit Fortschreiten der Digitalisierung stellen sich auch weitergehende Fragen, insbesondere auch in Bezug auf die rechtlichen Möglichkeiten und Grenzen für den Einsatz von KI, die jedoch angesichts der Dynamik und Vielschichtigkeit der Thematik nicht hypothetisch gestellt und beantwortet werden können. 29. Wer sollte nach Ansicht der Bundesregierung haftbar sein – die Insassen, der Besitzer, der Hersteller –, wenn ein autonom gesteuertes Fahrzeug einen Unfall verursacht (www.focus.de/finanzen/experten/auto-wie-das-autonomefahren -die-kfz-versicherung-veraendern-wird_id_6320338.html)? Verursacht ein autonom gesteuertes Fahrzeug einen Unfall, so ist nach geltendem Recht der Halter haftbar (§ 7 des Straßenverkehrsgesetzes). Der Hersteller ist haftbar, soweit der Unfall auf einem Produktfehler beruht (§ 1 des Produkthaftungsgesetzes ) oder der Hersteller im Rahmen der Produzentenhaftung für den Unfall verantwortlich ist (insbesondere § 823 Absatz 1 des Bürgerlichen Gesetzbuches ). Das Gesetz unterscheidet dabei nicht zwischen konventionellen und autonom fahrenden Fahrzeugen. Änderungsbedarf sieht die Bundesregierung zurzeit nicht. Dieser Ansicht hat sich auch der Verkehrsgerichtstag 2018 mit der Empfehlung Nr. 3 des Arbeitskreises II angeschlossen. 30. Zieht die Bundesregierung in Betracht, dass nach künftigem Recht ein autonom fahrendes Auto eine Kraftfahrzeugversicherung ähnlich der für Menschen besitzt? Wie wird die Bundesregierung in der Zeit, in der autonom fahrende Kfz auf europäischen Straßen zugelassen sind, die Versicherungspflicht für Menschen und die dazu gehörenden Schadenfreiheitsklassen anpassen? Werden Menschen gemäß der Position der Bundesregierung noch versichert, die bei flächendeckender Einführung auf ein autonom gesteuertes Kfz freiwillig verzichten? Wie bewertet die Bundesregierung das damit indirekt verbundene Erwerben von Guthaben bzw. immateriellem Besitz durch autonom handelnde Algorithmen ? Für den Halter eines Kraftfahrzeugs gilt § 1 des Pflichtversicherungsgesetzes (PflVG); der Halter muss das Fahrzeug bei einer Haftpflichtversicherung versichern . Die Regelung unterscheidet nicht zwischen nicht autonom und autonom fahrenden Kraftfahrzeugen; sie gilt also auch für den Halter eines autonom fahrenden Kraftfahrzeugs. Schadensfreiheitsklassen sind nicht durch Gesetz geregelt ; es gibt daher schon deswegen keinen gesetzlichen Anpassungsbedarf. Vorabfassung - w ird durch die lektorierte Version ersetzt. Drucksache 19/3714 – 12 – Deutscher Bundestag – 19. Wahlperiode 31. Wie will die Bundesregierung bei Beispielen wie AlphaGo (https://deepmind. com/research/alphago/) gewährleisten, dass KI „unsere“ Ziele beibehält, obwohl die KI sich ständig rekursiv selbstverbessert und eventuell Widersprüche in unserer Zielsetzung entdeckt? Das System AlphaGo ist eine Anwendung maschinellen Lernens über den abgeschlossenen Regelsatz des Go-Spiels. Die Ausgangskonfiguration wurde spezifisch angelegt. Die Entwickler erklären zu ihrem System auf der genannten Webseite , dass sie ihren Ansatz für übertragbar halten auf ähnlich klar strukturierte Probleme, wie das Spiel Go. Eine Verallgemeinerbarkeit wird jedoch nicht gesehen . 32. Hält die Bundesregierung es in diesem Zuge für denkbar, einer KI eine Nationalität zuzusprechen? Welche Möglichkeiten sieht die Bundesregierung als realisierbar an, um die soziale Integration künstlicher Intelligenzen in die menschliche Gesellschaft dauerhaft sicher zu stellen? Nach der derzeitigen Rechtsauffassung umfasst der Begriff Nationalität die rechtliche Zuordnung einer natürlichen Person zu politisch definierten Nationen oder die Zuordnung zu ethnisch definierten Volksgruppen. Bei KI handelt es sich nicht um eine natürliche Person im Sinne des Gesetzes. 33. Wenn KI die Fähigkeit der subjektiven Introspektion entwickeln würde, welche Position wird die Bundesregierung bei deren Reproduktion (die Evolution belohnt Lebensformen, die komplex genug sind, um Regelmäßigkeiten in ihrer Lebenswelt vorherzusagen und sich erfolgreich anzupassen) einnehmen ? Der Bundesregierung liegen keine Anhaltspunkte dafür vor, dass „KI die Fähigkeit der subjektiven Introspektion entwickeln“ wird. 34. Arbeitet die Bundesregierung zusammen mit der Europäischen Raumfahrtagentur (ESA) an der Möglichkeit, unser Universum mit Unterstützung von KI in Raumschiffen zu erforschen? Wenn ja, welche Projekte fördert sie im Speziellen (bitte Projekttitel, das jeweilige Ziel, die Projektbeteiligten, Fördersummen und Laufzeiten der Projekte angeben)? Würde die Bundesregierung eine Besiedlung anderer Planeten in einem weiteren Sonnensystem oder einer weiteren Galaxie durch KI zu unterstützen (z. B. www.golem.de/news/raumfahrt-die-digitalisierung-des-weltraums-1803- 133027-3.html)? Die Erforschung des Weltraums ist ein für Europa und Deutschland bedeutsames Thema. Hier unterstützt die Bundesregierung deutsche Spitzenforschung durch die Beteiligung an Missionen der europäischen Raumfahrtagentur und durch Projekte in nationaler Verantwortung. In Deutschland entwickelte Raumfahrzeuge, wozu auch robotische Landesysteme für Planeten und andere Himmelskörper gehören , sind auf den Einsatz fortschrittlicher Digitaltechnik angewiesen. Wegen des erkennbaren Bundesbedarfs und zur Stärkung der deutschen Kompetenzen in Forschung und Industrie besteht die Absicht, Robotik und KI als Schlüsseltechnologien für die Raumfahrt weiterhin zu fördern. Vorabfassung - w ird durch die lektorierte Version ersetzt. Deutscher Bundestag – 19. Wahlperiode – 13 – Drucksache 19/3714 Das Technologie-Experiment CIMON (Crew Interactive Mobile Companion), was in Kürze durch den Astronauten Alexander Gerst der Europäischen Weltraumorganisation (ESA) an Bord der Internationalen Raumstation (ISS) durchgeführt werden soll, ist ein erster Schritt zur Entwicklung eines operationellen Astronauten -Assistenzsystems mit KI-Technologie. Als sprachgesteuertes System wird hier die erdgebundene Watson KI-Technologie von IBM genutzt. CIMON wird in Kooperation mit der Europäischen Raumfahrtagentur durchgeführt. Neben dem Projekt CIMON werden zum Themengebiet Automation und Robotik für Weltraumanwendungen im nationalen Raumfahrtprogramm verschiedene Technologieentwicklungen gefördert, mit dem Ziel, die Intelligenz der Systeme zunehmend zu steigern. Was die laufenden, nationalen Raumfahrtprojekte des Deutschen Zentrum für Luft- und Raumfahrt e. V. (DLR) Raumfahrtmanagements mit Relevanz zur KI betrifft, wird auf die Anlage 2 verwiesen. Nach Kenntnissen der Bundesregierung erlauben die heute verfügbaren Raumfahrttechnologien noch keine menschliche Besiedelung anderer Planeten, weder im Sonnensystem noch außerhalb. Konkrete Projekte zur Besiedelung anderer Planeten mit Menschen sind der Bundesregierung nicht bekannt und werden daher nicht unterstützt. Vorabfassung - w ird durch die lektorierte Version ersetzt. Drucksache 19/3714 – 14 – Deutscher Bundestag – 19. Wahlperiode BMBF August 2018 Anlage 1 Projekttitel Projektziel Projektbeteiligte Fördersumme über die gesamte Laufzeit [in Euro] Laufzeit des Projekts Nationales Bernstein Netzwerk Computational Neuroscience Bernstein Zentrum für Computational Neuroscience , München Erkenntnisse, wie räumliche, zeitliche und raum-zeitliche Aspekte der Umwelt im Gehirn repräsentiert werden (u. a. mit Methoden des maschinellen Lernens) Technische Universität München 2.912.578 01.05.2010 – 31.03.2020 Bernstein Zentrum für Computational Neuroscience , Göttingen Erkenntnisse über die Flexibilität neuronaler Informationsverarbeitung auf zellulärer, Netzwerk-, kognitiver und Verhaltens-Ebene (u. a. mit Methoden des maschinellen Lernens) Max-Planck-Institut für Dynamik und Selbstorganisation 4.088.813 01.05.2010 – 31.12.2018 Nationaler Neuroinformatik Knoten Verbesserung von Daten-Zugang, Daten-Speicherung und Daten-Analyse (u.a. mit Methoden des maschinellen Lernens) auf nationaler, internationaler und interdisziplinärer Ebene. Ludwig-Maximilians- Universität München 3.201.001 01.08.2013 – 30.04.2019 Schnelle parallele Konfiguration der visuellen Informationsverarbeitung Verständnis der neuronalen Mechanismen und kognitiven Strategien, die der Flexibilität des Gehirns unterliegen (u. a. mit Methoden des maschinellen Lernens) Universität Bremen 1.499.515 01.03.2012 – 21.12.2019 Lernen und Gedächtnis in balancierten Systemen Erkenntnisse über Lern- und Gedächtnisvorgänge , insbesondere die Wechselbeziehung von synaptischer Plastizität, Erregung und Hemmung bei neuronalen Netzwerken Technische Universität Berlin 1.494.822 01.10.2012 – 31.03.2020 Störungsresistente neuronale Netze im Motorcortex Verständnis der lokalen Kontrollmechanismen , die ungewollte Bewegungen verhindern (u. a. mithilfe von künstlichen neuronalen Netzwerken/Deep Learning Methoden) Albert-Ludwigs-Universität Freiburg 1.499.640 01.02.2015 – 31.01.2020 Zelltyp-spezifische neuronale Berechnungen Verständnis der Berechnungsverfahren , die das Gehirn benutzt, um Reize aus der Außenwelt zu verarbeiten (u. a. mit Methoden des maschinellen Lernens). Eberhard Karls Universität Tübingen 1.499.761 01.06.2016 – 31.05.2021 Ein Brückenschlag über Größenordnungen: Präzises Spiken in künstlicher und biologischer neuronaler Informationsverarbeitung Erkenntnisse, wie elektrische Pulse (Spikes) im Gehirn entstehen und welchen Beitrag einzelne Nervenzellen zur Entstehung der Pulse leisten (u. a. mit Methoden des maschinellen Lernens) Rheinische Friedrich- Wilhelms-Universität Bonn 1.247.441 01.03.2018 – 30.06.2022 Modell-basierte Untersuchungen neuronaler Schaltkreise im visuellen System Verständnis der neuronalen Schaltkreise von visueller Aufmerksamkeit und Augenbewegungen und Erkenntnisse , wie diese eine stabilen visuelle Wahrnehmung erzeugen (u. a. mithilfe von künstlichen neuralen Netzwerken und Methoden des maschinellen Lernens) Technische Universität Chemnitz 277.746 01.03.2015 – 31.08.2018 Vorabfassung - w ird durch die lektorierte Version ersetzt. Deutscher Bundestag – 19. Wahlperiode – 15 – Drucksache 19/3714 Projekttitel Projektziel Projektbeteiligte Fördersumme über die gesamte Laufzeit [in Euro] Laufzeit des Projekts Datenaustausch: Integration verteilter Datenressourcen für neue Forschungsansätze in der Neurowissenschaft Etablierung einer Infrastruktur, um neurophysiologische Daten über Webdienste suchbar und mit verwandten Daten verknüpfbar zu machen (u. a. mit Methoden des maschinellen Lernens) Ludwig-Maximilians- Universität München 330.634 01.12.2015 – 30.11.2018 Feldpotentiale im Hörsystem Erkenntnisse, welche Teilstrukturen des Hirnstamms für die einzelnen Verarbeitungsschritte der Hörinformationen und für die Schallortung zuständig sind (u. a. mit Methoden des maschinellen Lernens) Humboldt-Universität zu Berlin 325.171 01.03.2016 – 30.04.2019 Feldpotentiale im Hörsystem Erkenntnisse, welche Teilstrukturen des Hirnstamms für die einzelnen Verarbeitungsschritte der Hörinformationen und für die Schallortung zuständig sind (u. a. mit Methoden des maschinellen Lernens) Carl von Ossietzky Universität Oldenburg 221.902 01.03.2016 – 30.04.2019 Optimierung von kortikaler Stimulation Verständnis der Zusammenhänge zwischen der Art der Stimulation und der resultierenden Stromverteilung bzw. den physiologischen Aktivitätsänderungen in der Großhirnrinde bei nicht-invasiver Stimulation (u. a. mithilfe von künstlichen neuralen Netzwerken und Methoden des maschinellen Lernens) Albert-Ludwigs-Universität Freiburg 247.750 01.12.2015 – 30.11.2018 Neuronale Grundlagen aktiver Navigation Erkenntnisse über die Dynamik im Gehirn von aktiv navigierenden Menschen (u. a. mit Methoden des maschinellen Lernens) Technische Universität Berlin 360.103 01.12.2015 – 30.11.2018 Untersuchung von spontanen Sprachprozessen durch Elektrokortikographie Entschlüsselung spontan gedachter Worte aus der Gehirnaktivität und unmittelbare Umsetzung in synthetisierte Sprache (u. a. mit Methoden Deep Learnings) Universität Bremen 392.494 01.01.2017 – 31.12.2019 Mathematische Modellierung von kooperativem Erfolg in neuronalen Signalen und Netzwerken Verständnis der neuronalen Grundlagen und der Gehirnprozesse, die den Entscheidungen bei einer Zusammenarbeit – zum Beispiel im Alltag, im Beruf oder in der Politik – zugrunde liegen (u. a. mit Methoden des maschinellen Lernens) Universitätsklinikum Hamburg-Eppendorf 434.178 01.12.2016 – 30.11.2019 Neurocomputationale Operationen in der Peripherie des Visuellen Systems – Experimente und Modelle Erkenntnisse, wie das Gehirn aus den unscharfen, verzerrten Seh-Eindrücken die wichtigen Informationen herausfiltert und durch Berechnungen zu einem scharfen Bild der Umgebung zusammensetzt (u. a. mit Methoden des maschinellen Lernens ) Universität Bremen 330.722 01.07.2017 – 30.06.2020 Weiterentwicklung eines neuromechanischen Ratten Models zum Test von Muskelsynergien bei normaler und gestörter Lokomotion Verständnis der Mechanismen der neuronalen Kontroll-Mechanismen, mit denen Laufbewegungen angepasst werden können (u. a. mit Methoden des maschinellen Lernens) Friedrich-Schiller-Universität Jena 458.127 01.01.2017 – 31.12.2019 Vorabfassung - w ird durch die lektorierte Version ersetzt. Drucksache 19/3714 – 16 – Deutscher Bundestag – 19. Wahlperiode Projekttitel Projektziel Projektbeteiligte Fördersumme über die gesamte Laufzeit [in Euro] Laufzeit des Projekts Hierarchische neuronale Berechnung der Bedeutung von Kommunikationslauten Entwicklung eines ultraleichten Elektroden-Array zur Messungen der Nervenzellen-Aktivität und Verhaltenskorrelationen bei kleinen Vögeln und Säugern (u. a. mit Methoden des maschinellen Lernens) Max-Planck-Institut für Ornithologie 425.072 0104.2018 – 31.03.2021 Hierarchische Koordination komplexer Bewegungen Verständnis und Entwicklung mathematischer Modelle für die hierarchische Organisation komplexer koordinierter motorischer Bewegungen (u. a. mit Methoden des maschinellen Lernens) Eberhard Karls Universität Tübingen 195.637 01.04.2018 – 31.03.2021 Die Rolle von Gitter- und Ortszellen sowie der Phasenpräzession für das menschliche episodische Gedächtnis Erkenntnisse, ob Gitter- und Ortzellen nicht nur für die Navigation im Raum, sondern auch für das Abspeichern und das Abrufen von Gedächtnisinhalten eine wichtige Rolle spielen (u. a. mit Methoden des maschinellen Lernens) Albert-Ludwigs-Universität Freiburg 356.510 01.03.2018 – 28.02.2021 Die Rolle von Gitter- und Ortszellen sowie der Phasenpräzession für das menschliche episodische Gedächtnis Erkenntnisse, ob Gitter- und Ortzellen nicht nur für die Navigation im Raum, sondern auch für das Abspeichern und das Abrufen von Gedächtnisinhalten eine wichtige Rolle spielen (u. a. mit Methoden des maschinellen Lernens) Humboldt-Universität zu Berlin 108.012 01.03.2018 – 28.02.2021 Beeinflussung von Hirnrhythmen zur Förderung des Gedächtnisses Verständnis der Interaktionen zwischen den Gehirnbereichen und der rhythmischen Aktivität der Nervenzellen während des Tiefschlafes, und wie exogene Stimulationen die Reaktivierung des Gedächtnisses fördern (u. a. mit Methoden des maschinellen Lernens) Universität zu Lübeck 641.610 01.03.2018 – 28.02.2022 Multi-Level Computermodelle der Fehlfunktion von Basalganglien beim Tourette Syndrome Erkenntnisse, welche Rolle diejenigen Hirnbereiche, die die Bewegungs - und Verhaltensabläufe steuern , beim Tourette-Syndrom spielen (u. a. mit Methoden des maschinellen Lernens) Technische Universität Chemnitz 292.273 01.05.2018 – 30.04.2021 Computationale und experimentelle Untersuchungen zustandsabhängiger Kodierung im olfaktorischen System Erkenntnisse am Beispiel des Riechsystems , wie das Neurohormon Oxytozin und andere Neurotransmitter die neuronale Plastizität und das Lernen beeinflussen (u. a. mit Methoden des maschinellen Lernens) Zentralinstitut für Seelische Gesundheit 403.362 01.04.2018 – 31.03.2021 Fördermaßnahme i:DSem i:DSem – Verbundprojekt: PREDICT – Umfassende Datenintegration zur Verbesserung onkologischer Therapien – Teilprojekt A Vorhersage der Wirkung bekannter Medikamente auf organotypische Zellkulturen eines bekannten Mutationsprofils . Humboldt-Universität zu Berlin 611.516 01.03.2016 – 28.02.2019 i:DSem – Verbundprojekt: EPP – Ein Systemmedizinbasiertes Entscheidungsunterstützungs -System für die Therapie-Lenkung von kolorektalem Krebs – Teilprojekt C Patientenspezifische Prognosen basierend auf Biomarkersignaturen Fraunhofer-Institut für Intelligente Analyse- und Informationssysteme (IAIS) 363.063 01.03.2016 – 28.02.2019 Vorabfassung - w ird durch die lektorierte Version ersetzt. Deutscher Bundestag – 19. Wahlperiode – 17 – Drucksache 19/3714 Projekttitel Projektziel Projektbeteiligte Fördersumme über die gesamte Laufzeit [in Euro] Laufzeit des Projekts i:DSem – Verbundprojekt: LHA – Der Leipziger Gesundheitsatlas Weiterentwicklung und Zurverfügungstellung von Auswertprogrammen zur Analyse molekularer Hochdurchsatzdaten sowie assoziierter Phänotyp- und klinischer Daten auf Basis maschinellen Lernens und geeigneter statistischer Methoden. Universität Leipzig 1.794.559 01.03.2016 – 28.02.2019 i:DSem – Verbundprojekt: XplOit – Semantische Unterstützung für die prädiktive Modellierung in der Systemmedizin – Teilprojekt B Entwicklung systembiologischer Modelle und statistischer bzw. Machine Learning basierter Vorhersagemodelle für die Transplantationsmedizin . Universität des Saarlandes 1.160.074 01.03.2016– 28.02.2019 i:DSem – Verbundprojekt: PSINK – Automatische Erstellung einer Wissensbasis zur Unterstützung der Translation von der präklinischen Forschung in die klinische Anwendung bei Rückenmarksverletzungen – Teilprojekt A Entwicklung eines Bewertungsmechanismus für verschiedene Therapieansätze , basierend auf Patientendaten . Universität Bielefeld 433.165 01.03.2016 – 28.02.2019 Medizininformatik-Initiative des BMBF DIFUTURE – Medizininformatik -Konsortium – Beitrag Klinikum der TU München Modeling von Krankheitsaktivität und Therapieansprechen sowie Entwicklung systemischer medizinischer Modelle von pathophysiologischen Mechanismen Klinikum der Technischen Universität München 3.531.527 01.01.2018– 30.06.2019 DIFUTURE – Medizininformatik -Konsortium – Beitrag Universität Tübingen Merkmalsextraktion und Engineering für maschinelles Lernen für den Krankheitsverlauf Eberhard Karls Universität Tübingen 3.386.324 01.01.2018 – 30.06.2019 DIFUTURE – Medizininformatik -Konsortium – Beitrag KAIROS GmbH Textmining KAIROS GmbH 252.474 01.01.2018 – 30.06.2019 HiGHmed – Medizininformatik -Konsortium – Beitrag Universitätsklinikum Heidelberg Entwicklung von Systemen zur Entscheidungsunterstützung für Ärzte und Patienten, u.a. mithilfe der Methoden des Maschinen-Lernens und der automatischen Texterkennung (NLP), insbesondere auch für den Bereich Kardiologie; Aufbau eines automatisch generierten Infektions- Kontroll-Systems mit Methoden des Maschinellen Lernens; Harmonisierung der Analysetools und Bewertung vorhandener kommerzieller Instrumente sowie Neuentwicklungen Universitätsklinikum Heidelberg 502.507 01.01.2018 – 30.06.2019 HiGHmed –Medizininformatik -Konsortium – Beitrag DKFZ Erprobung der Anwendung automatischer Texterkennung (NLP) in der Onkologie Deutsches Krebsforschungszentrum 230.285 01.01.2018 – 30.06.2019 HiGHmed – Medizininformatik -Konsortium – Beitrag Medizinische Hochschule Hannover Adaption kommerzieller NLP-Lösungen für die Auswertung von Daten am MeDIC der MHH Medizinische Hochschule Hannover 3.314.997 01.01.2018 – 30.06.2019 SMITH –Medizininformatik -Konsortium – Beitrag Bayer AG Entwicklung von Computermodellen zur Überwachung von Patienten in der Intensivstation Bayer AG 232.299 01.01.2018 – 30.06.2019 Vorabfassung - w ird durch die lektorierte Version ersetzt. Drucksache 19/3714 – 18 – Deutscher Bundestag – 19. Wahlperiode Projekttitel Projektziel Projektbeteiligte Fördersumme über die gesamte Laufzeit [in Euro] Laufzeit des Projekts SMITH – Medizininformatik -Konsortium – Beitrag Forschungszentrum Jülich Entwicklung von Computermodellen zur Überwachung von Patienten in der Intensivstation Forschungszentrum Jülich 133.858 01.01.2018 – 30.06.2019 SMITH –Medizininformatik -Konsortium – Beitrag Averbis GmbH Aufbau einer Methodenplattform, die es ermöglichen soll, elektronische Patientenakten automatisiert zu analysieren Averbis GmbH 328.958 01.01.2018 – 30.06.2019 MIRACUM – Medizininformatik -Konsortium – Beitrag Universität Erlangen -Nürnberg Entwicklung von Vorhersagemodellen zum Krankheitsverlauf mittels maschinellem Lernen; Verwendung von automatisierter Texterkennung (NLP) zur Untersuchung seltener Erkrankungen Universität Erlangen- Nürnberg 2.172.981 01.01.2018 – 30.06.2019 MIRACUM – Medizininformatik -Konsortium – Beitrag Averbis Extraktion relevanter medizinischer Informationen aus Freitexten mittels automatischer Texterkennung (NLP) und Text-Mining Averbis GmbH 270.382 01.01.2018 – 30.06.2019 Fachprogramm Medizintechnik Patientenorientierte onkologische Therapieunterstützung (Panther) Genauere Klassifizierung von Tumoren und Überwachung des Krankheitsverlaufs durch detaillierte und automatisierte medizinische Bildanalyse mit Hilfe von innovativen Machine Learning-Algorithmen Siemens Healthcare GmbH Fraunhofer MEVIS, Lübeck MeVis BreastCare GmbH & Co. KG, Bremen Klinikum der Universität München 1.822.786 01.10.2016 – 30.09.2019 Self-administered Psycho- TherApy-SystemS (SELF- PASS) Entwicklung einer Software zum Selbstmanagement von Depression, die als selbstlernendes System konzipiert ist Technische Universität Berlin Ruprecht-Karls-Universität Heidelberg Westfälische Hochschule Gelsenkirchen medisite GmbH 1.739.460 01.12.2016 – 30.11.2018 KI-basierte digitale Therapieunterstützung für die Kardiologie (ArtiCardio) Entwicklung einer Software für die patientenindividuelle Therapieplanung bei Herz-Kreislauf-Erkrankungen , wie zum Beispiel Herzklappenfehlern oder Hauptschlagaderverengungen (Darstellung von Strömungsverhältnissen durch neuartige Algorithmen und maschinelles Lernen) Siemens Healthcare GmbH Charité – Universitätsmedizin Berlin 1000shapes GmbH 1.213.237 01.10.2017 – 30.09.2020 Automatische patientenindividuelle Kontrastmitteldosisoptimierung (IQ-CM) Entwicklung eines Systems zur automatischen patientenindividuellen Kontrastmitteldosisoptimierung mit Hilfe von modellbasierten Methoden sowie Verfahren des maschinellen Lernens zur Verminderung kontrastmittelbedingter Nebenwirkungen IMAGE Information Systems Europe GmbH Universität zu Lübeck 1.008.678 01.11.2017 – 31.10.2020 Vorabfassung - w ird durch die lektorierte Version ersetzt. Deutscher Bundestag – 19. Wahlperiode – 19 – Drucksache 19/3714 Projekttitel Projektziel Projektbeteiligte Fördersumme über die gesamte Laufzeit [in Euro] Laufzeit des Projekts Modellvorhaben zur Erprobung von Anwendungen mit großen Datenmengen im Gesundheitswesen Data Box – patientenzentriertes Gesundheitsmanagement durch digitale Intelligenz Modellhafte Entwicklung eines neuen, patientenzentrierten Ansatzes für den Einsatz intelligenter digitaler Systeme zum Nutzen der Patientinnen und Patienten in Vorbeugung, Diagnostik und Therapie: Nachweis am Beispiel des Lungenkarzinoms , dass aus großen Datenmengen konkrete Mehrwerte für die Versorgung generiert werden können – Dokumentationspauschalen für beteiligte niedergelassene Ärzte oder Kliniken Deutsches Krebsforschungszentrum 840.000 01.12.2017– 30.06.2019 DataBox – Patientenzentriertes Gesundheitsmanagement durch digitale Intelligenz Modellhafte Entwicklung eines neuen, patientenzentrierten Ansatzes für den Einsatz intelligenter digitaler Systeme zum Nutzen der Patientinnen und Patienten in Vorbeugung, Diagnostik und Therapie – Entwicklung des Datenraums Deutsches Krebsforschungszentrum 1.727.743 01.01.2018– 30.06.2019 DataBox – Patientenzentriertes Gesundheitsmanagement durch digitale Intelligenz Modellhafte Entwicklung eines neuen, patientenzentrierten Ansatzes für den Einsatz intelligenter digitaler Systeme zum Nutzen der Patientinnen und Patienten in Vorbeugung, Diagnostik und Therapie SAP SE 606.702 01.01.2018– 30.06.2019 DataBox – Patientenzentriertes Gesundheitsmanagement durch digitale Intelligenz Modellhafte Entwicklung eines neuen, patientenzentrierten Ansatzes für den Einsatz intelligenter digitaler Systeme zum Nutzen der Patientinnen und Patienten in Vorbeugung, Diagnostik und Therapie Siemens Healthcare GmbH 225.240 01.01.2018– 30.06.2019 Daten für eine bessere Versorgung nutzen – Machbarkeitsstudie Virtuelles Netzwerk Gesundheitsdaten Nachweis, ob und welche Big Data- Anwendungen möglich sind, wenn die Daten an ihrem ursprünglichen Erstellungsort (z. B. Uniklinik, Krankenhaus) verbleiben und lediglich für den Verwendungszweck „virtuell“ zusammengeführt werden European School of Management and Technology GmbH 72.915 01.01.2018– 17.08.2018 Fachprogramm Mensch- Technik-Interaktion Frühmobilisation von Intensivpatienten durch adaptive Robotik am Bett (MobIPaR Entwicklung eines Pflege- und Rehabilitationssystems zur Mobilisierung von Pflegebedürftigen auf Intensivstationen . Entwicklung von Roboterkomponenten, die am Krankenbett angebracht u. a. die Aufrichtung des Pflegebedürftigen und das Gehbewegungstraining unterstützen. Schön Klinik Bad Aibling SE & Co. KG, Bad Aibling Reactive Robotics GmbH, München Leibniz Universität Hannover Evangelische Hochschule Ludwigsburg Hochschule Rosenheim 2,1 Mio. 01.04.2017– 31.03.2020 Vorabfassung - w ird durch die lektorierte Version ersetzt. Drucksache 19/3714 – 20 – Deutscher Bundestag – 19. Wahlperiode BMBF August 2018 Anlage 2 (Frage 34) Projekttitel Ziel Projektbeteiligte Fördersumme in Euro Laufzeit CIMON (Crew Interactive Mobile Companion) Intelligenter Astronautenassistent zur Erprobung von KI auf der Internationalen Raumstation ISS DLR in Kooperation mit ESA, AIRBUS, IBM, LMU München, Reichert Design ca. 5 Mio. 2016 – 2019 iBOSS-3 Baukastensystem für intelligente, flexible, wartbarer Satelliten TU Berlin, RWTH Aachen, FZI, RIF ca. 13 Mio. 2015 – 2018 intelliRISK Robotertechnologieentwicklung für autonomes, flexibles Handeln auf planetaren Erkundungsmissionen FZI ca. 1,3 Mio. 2017 – 2020 TransFIT Kooperationsszenarios von Astronauten und Robotern mit Lernfähigkeit der Geräte DFKI, Siemens, Uni Bremen ca. 7,1 Mio. 2017 – 2021 YETE 2 Grundprinzipien der Schwarmintelligenz , die auf Robotersysteme im Weltraum übertragen werden Zentrum für Telematik e. V., Uni Würzburg ca. 0,7 Mio. 2017 – 2020 Vorabfassung - w ird durch die lektorierte Version ersetzt. Satz: Satzweiss.com Print, Web, Software GmbH, Mainzer Straße 116, 66121 Saarbrücken, www.satzweiss.com Druck: Printsystem GmbH, Schafwäsche 1-3, 71296 Heimsheim, www.printsystem.de Vertrieb: Bundesanzeiger Verlag GmbH, Postfach 10 05 34, 50445 Köln, Telefon (02 21) 97 66 83 40, Fax (02 21) 97 66 83 44, www.betrifft-gesetze.de ISSN 0722-8333