EU einigt sich auf KI-Gesetz

Jan 11, 2024
  •  
5
 min read
KI generiertes Bild, Quelle: DALL·E

BRAINWAVE INSIGHTS

EU einigt sich auf KI-Gesetz

Mit dem Hype um KI-Anwendungen wie z.B. ChatGPT kamen Fragen danach auf, was KI-Software eigentlich darf und was nicht, welchen Pflichten Unternehmen nachkommen müssen oder welchen Anforderungen Produkte gerecht werden müssen. All das war bisher gesetzlich nicht explizit geregelt. Das europäische "KI-Gesetz" soll das nun ändern. Wir geben einen Überblick zu den relevantesten Entwicklungen.

Ein rechtlicher Rahmen

Das KI-Gesetz (engl. AI Act, kurz AIA) ist Teil des KI-Pakets, das die EU-Kommission im April 2021 vorgestellt hat und soll einen Rechtsrahmen für künstliche Intelligenz schaffen. Insgesamt sollen KI-Systeme dadurch "sicher, transparent, nachvollziehbar, nicht diskriminierend und umweltfreundlich" werden (EU Parlament). Das EU Parlament und der EU-Rat haben vergangenen Dezember zu dem vorgeschlagenen Gesetz eine politische Einigung erzielt. Nun müssen die Einzelheiten verhandelt werden, welche die endgültigen Rechtsvorschriften durchaus noch ändern können.

Ein risikobasierter Ansatz

Neben allgemeinen Regelungen zur KI Verwendung und Bußgeldvorschriften soll der Kern des Gesetzes die Einstufung von KI-Systemen in verschiedene Risikostufen für Nutzer:innen werden, welche unterschiedliche Regulierungen nach sich ziehen.

  • Unannehmbare Risiko-Systeme, die als Bedrohung für die Grundrechte der Menschen angesehen werden, werden gänzlich verboten. Dazu zählen z.B. die Manipulation von Verhalten, Social Scoring, sowie bestimmte Anwendungen von biometrischen Scans wie Gesichtserkennung oder Emotionserkennung am Arbeitsplatz.
  • Hochriskante KI-Systeme, die die Sicherheit oder grundlegende Rechte beeinträchtigen, müssen vor und während ihrer Marktpräsenz gründlich geprüft werden. Hierzu gehören z.B. Systeme, die in kritischen Infrastrukturen angewendet werden, darunter auch Medizinprodukte.
  • Systeme mit minimalem Risiko wie bspw. KI-gestützte Empfehlungssysteme oder Spam-Filter sollen die große Mehrheit darstellen und müssen keinen Anforderungen entsprechen. Dies soll die große Mehrheit der Systeme betreffen. Unternehmen können sich jederzeit freiwillig zusätzlicher Kodizes verpflichten.
  • Zusätzliche Transparenzverpflichtungen für alle Anwendungen sind insbesondere die Kenntlichmachung von KI-generierten Audio-, Video-, Text- und Bildinhalten für Nutzer:innen und Maschinen.

Nächste Schritte

Mit Verabschiedung durch den EU Rat tritt das Gesetz 20 Tage nach Veröffentlichung im Amtsblatt in Kraft. Grundsätzlich gelten die Bestimmungen dann ab zwei Jahren nach in Kraft treten, wobei Verbote bereits nach sechs Monaten und die Vorschriften für KI mit allgemeinem Verwendungszweck nach 12 Monaten gelten.

Brainwave Fazit: Was das für deutsche Startups in der Digital Health Branche konkret bedeutet, ist aus unserer Sicht noch schwer abzusehen. Bestehende Startups müssen sicherlich zahlreichen Anforderungen gerecht werden und neuen Startups wird der Weg für Anwendungen geebnet, die bisher vielleicht nicht denkbar gewesen wären. Mit Sicherheit wird der Rahmen für KI-Startups eindeutig geregelt sein. Dies sehen wir als grundsätzlich erst einmal als notwendige und längst überfällige Entwicklung.

REGULARIEN

E-Rezept löst "rosa Zettel" ab

Seit dem 1. Januar 2024 sind (Zahn-)Arztpraxen und Krankenhäuser verpflichtet, gesetzlich Versicherten elektronische Rezepte für verschreibungspflichtige Medikamente auszustellen. Dadurch wird das Muster 16 bzw. der "rosa Zettel", weitgehend abgelöst. Seit dem letzten Sommer kann das eRezept auch über die Gesundheitskarte (eGK) eingelöst werden. Mehr

Abrechnungsempfehlungen für Herzinsuffizienz-Telemonitoring stehen

Die Bundesärztekammer und private Krankenkassen haben Abrechnungsempfehlungen für Telemonitoring bei chronischer Herzinsuffizienz vereinbart. Diese Honorarvereinbarung gilt für PKV-Kunden und ist wirksam seit Januar 2024 bis Ende 2026. Zuvor gab es bereits Abrechnungsempfehlungen der Bundesärztekammer, welche jedoch für die PKVen nicht bindend waren. Mehr

DIGA UPDATE

Neue DiGA bei Brustkrebs

Bildquelle: BfarM; DiGA-Verzeichnis

Am 25.12.2023 wurde die Anwendung "Untire" vorläufig in das DiGA-Verzeichnis aufgenommen. Sie richtet sich speziell an Brustkrebspatient:innen, die unter chronischer Erschöpfung leiden. Das Unternehmen dahinter, "Tired of Cancer", kommt ursprünglich aus den Niederlanden und setzt sich zum Ziel, mittels digitaler Behandlungen gegen tumorbedingte Erschöpfung anzukämpfen.

Untire unterstützt Nutzer:innen dabei, Erschöpfungssymptome (Fatique) zu reduzieren und Strategien für einen ausgeglichen Energiehaushalt im Alltag zu etablieren. Das Programm basiert auf erprobten Methoden der Psycho-Onkologie und integriert Elemente der kognitiven Verhaltenstherapie, Akzeptanz- & Commitment-Therapie, Psychoedukation sowie Achtsamkeit. Die App bietet außerdem eine Tagebuchfunktion, um Beschwerden zu tracken und Sympotverläufe einzusehen.

Der Herstellerpreis der DiGA beträgt 618 € pro Quartal und die Mindestnutzdauer liegt bei 12 Wochen.

Weitere Infos zur DiGA Untire erhaltet Ihr hier im DiGA-Verzeichnis.

Erste DiGA bei Hypertonie gelistet

Quelle: BfarM; DiGA-Verzeichnis

Die mementor GmbH bringt mit der DiGA "actensio" bereits ihre zweite DiGA in das Verzeichnis. Am 30.12.2023 wird die Anwendung vorläufig für Patient:innen mit Hypertonie gelistet. Ihre erste DiGA "somnio" therapiert Schlafstörungen und zählt gemäß Verschreibungszahlen zu einer der beliebtesten Apps.

Die Anwendung bietet leitlinienkonforme und evidenzbasierte Inhalte zur Lebensstilintervention bei Bluthochdruck an. Diese umfassen psychoedukative Wissensvermittlung sowie Anleitungen, um die Ernährung schrittweise anzupassen, mehr Bewegung in den Alltag zu integrieren und das Stressmanagement zu verbessern.

Pro Quartal kostet die Anwendung 594 € und kann als alleinstehende Therapie oder Therapiebegleitung genutzt werden.

Weitere Infos zur DiGA Actensio erhaltet Ihr hier im DiGA-Verzeichnis.

PICK OF THE WEEK

DiGA-Reports

Seit Jahresbeginn wurden bereits zwei DiGA Reports von verschiedenen Interessensgruppen veröffentlicht: Der DiGA-Bericht des GKV Spitzenverbandes (GKV-SV) beleuchtet die Perspektive der Krankenkassen, während der DiGA-Report des des Spitzenverband Digitale Gesundheitsversorgung e.V. (SVDGV) die Sichtweise der Hersteller widerspiegelt. Neben spannenden und sehr konträren Ergebnissen und Schlussfolgerungen liefern beide Berichte äußerst interessante Zahlen & Fakten über die Welt der DiGA.

DiGA-Report des Spitzenverband Digitale Gesundheitsversorgung e.V.: Marktentwicklung digitaler Gesundheitsanwendungen

Der Report gibt einen umfassenden Überblick über die Entwicklung, Verordnungszahlen und wesentlichen Erkenntnisse der ersten drei Jahre seit Start der DiGA. Darüber hinaus nimmt er die Umsetzung des DiGA-Modells in der Versorgungspraxis unter die Lupe und identifiziert Verbesserungspotentiale.

Der DiGA-Report fasst drei zentrale Erkenntnisse zusammen:

1. Der DiGA-Markt verzeichnet ein nachhaltiges Wachstum
2. Das Erprobungsjahr schafft einen wichtigen Rahmen, um neue DiGA in die Versorgung zu bringen
3. Es gibt an vielen Stellen Potential für Prozessverbesserungen

Hier der Link zur zum vollständigen Report.

Bildquelle: SVDGV DiGA-Report

DiGA-Bericht des GKV-Spitzenverbandes über die Inanspruchnahme und Entwicklung der Versorgung mit Digitalen Gesundheitsanwendungen

Der DiGA-Bericht des GKV-SV bietet die neusten Zahlen & Fakten zu Verschreibungszahlen, Preisentwicklungen und GKV-Ausgaben für DiGA:

  • Die Anzahl der freigeschalteten Freischaltcodes beläuft sich von 09/20 bis 09/23 auf 374 Tsd. (83 % Einlösquote nach Genehmigung)
  • Im "3. DiGA-Jahr" wurden 209 Tsd. Freischaltcodes eingelöst, eine Steigerung um 68 % zum Vorjahr
  • Die drei am häufigsten eingelösten DiGA machen bereits über 40 % aller Einlösungen aus: Zandio (56.000), Vivira (51.000) und Kalmeda (49.000)
  • Die durchschnittlichen Herstellerpreise steigen von anfangs 407 € auf 593 €
  • Die GKV-Ausgaben für DiGA bis September 2023 betragen 113 Mio. €

Allerdings wird auch Kritik an der DiGA und ihrer Entwicklung geäußert. Insbesondere werden zu hohe Kosten bei zu wenig Nutzen Nachweis bemängelt. Der GKV-SV nennt drei notwendige Updates, so dass sichergestellt wird, dass DiGA maßgeblich zur Verbesserung der Versorgung beitragen:

1. Es dürfen ausschließlich DiGA mit nachgewiesenem medizinischen Nutzen und echten Mehrwerten ins Verzeichnis aufgenommen werden.
2. Das Gebot der Wirtschaftlichkeit muss gewahrt werden.
3. DiGA müssen in die Versorgungspfade integriert werden.

Hier der Link zur zum vollständigen Report.

Viel Spaß beim Lesen, Vergleichen und Analysieren! :)

Quelle: GKV-Spitzenverbandes DiGA-Bericht; Pressemitteilung

CO-WORKING BEI BRAINWAVE

Digital Health Startups aufgepasst: Wir bieten Euch modernen Office Space im Herzen Berlins!

HALLO

Wir suchen Digital Health Startups, die Lust haben Teil unseres Healthcare-Office-Community zu werden. Wir bieten Euch Co-Working-Sitzplätze und Office-Räume in Alt-Moabit - ganz in der Nähe vom Hauptbahnhof. Aktuell arbeiten sechs Digital Health und Gesundheitsunternehmen bei uns und wir wollen wachsen. Als Teil unseres Ökosystems profitiert Ihr aber nicht nur von unserem voll ausgestatteten Office, sondern auch von unserem Netzwerk, einer möglichen Zusammenarbeit mit anderen Expert:innen und Zugang zu branchenspezifischen Infos.

Um mehr über die Vorteile unserer Brainwave Office-Community zu erfahren, kontaktiert uns einfach unter: [email protected].

Weitere Infos und Bilder findet Ihr hier.

Wir freuen uns auf Euch!

PS: Gerne weitersagen! :)

Den gesamten Newsletter mit Presseschau und einem Überblick der Finanzierungsrunden im Digital Health Startup Markt findest Du hier.
Share this post
Weitere Insights

Newsletter & Specials

Ihr wollt noch mehr über die Digital Health Welt erfahren? Dann stöbert doch mal durch unsere Newsletter, Specials und Reports! Hier beleuchten wir regelmäßig Themen, welche die Szene bewegen und klären über aktuelle Entwicklungen und Hintergründe auf.

Tech-Giganten Report 2022

Tech-Giganten Report 2022

Lorem ipsum dolor sit amet, consectetur adipiscing elit. Suspendisse varius enim in eros.

11 Jan 2022
 • 
15
 min Lesedauer
Tech-Giganten Report 2022

Tech-Giganten Report 2022

Lorem ipsum dolor sit amet, consectetur adipiscing elit. Suspendisse varius enim in eros.

11 Jan 2022
 • 
15
 min Lesedauer
Tech-Giganten Report 2022

Tech-Giganten Report 2022

Lorem ipsum dolor sit amet, consectetur adipiscing elit. Suspendisse varius enim in eros.

11 Jan 2022
 • 
15
 min Lesedauer
Tech-Giganten Report 2022

Tech-Giganten Report 2022

Lorem ipsum dolor sit amet, consectetur adipiscing elit. Suspendisse varius enim in eros.

11 Jan 2022
 • 
15
 min Lesedauer