Ihre Ausführungen hätten das Niveau einer Abschlussarbeit, schätzt Prof. Dr. Andre Grüning von der Hochschule Stralsund ein. Und die Jury des Landeswettbewerbs Jugend forscht Mecklenburg-Vorpommern scheint ebenfalls begeistert zu sein und verlieh Leo Blume, der Bundesfreiwilligendienstleistenden des Familiencenters der Hochschule Stralsund (HOST), den 1. Platz in ihrem Fachgebiet (Mathematik/Informatik). Damit hat sie sich für den Ende Mai in Hamburg stattfindenden Bundeswettbewerb Jugend forscht qualifiziert, in dem sie gegen die bundesweit besten Projekte antreten wird.
Ihr Thema: Künstliche Intelligenz. Fach-Experte Prof. Dr. Grüning, der auch Leiter des Studiengangs Softwareentwicklung und Künstliche Intelligenz ist, unterstützte sie und fuhr mit ihr zum Wettbewerb.
Im Projekt DEversAI untersucht sie, ob KI-Sprachmodelle besser funktionieren, wenn sie Texte rückwärts statt vorwärts verarbeiten. Ziel ist es, herauszufinden, ob Rückwärts-Modelle neue Möglichkeiten eröffnen und ob Erkenntnisse aus englischer Forschung im Deutschen gelten. „Ich habe mich mit Grundmodellen von Large Language Models (LLMs) beschäftigt und über Infrastruktur der Hochschule selbst eigene LLM-Modellpaare trainiert“, erklärt Leo Blume. Ein KI-Modell verarbeitet den deutschen Text vorwärts, wie alle heute verbreiteten KIs, und eines liest den Text rückwärts ein – der neue antikausale Ansatz. „Diese habe ich auf sehr viele verschiedene Arten und Weisen analysiert und verglichen. Im Ergebnis schneiden die Vorwärts-Sprachmodelle immer ein wenig (statistisch messbar) besser ab als die Rückwärts-Sprachmodelle, aber beide können Text generieren“, erklärt sie. „Dazu gibt es große Unterschiede zwischen verschiedenen Textarten, zum Beispiel können Gesetzestexte ungefähr gleich gut vorwärts und rückwärts erzeugt werden, aber Bundestagsplenarprotokolle sehr viel besser vorwärts. „Diese Erkenntnisse sind in Bezug auf die Grundlagenforschung von Sprachmodellen als auch die praktische Weiterentwicklung von KI von hoher Bedeutung“, berichtet Leo Blume und auch im offiziellen Wettbewerbsstatement heißt es lobend:
„Die Ergebnisse sind vielversprechend. Das Vorwärts-Modell liefert präzisere Vorhersagen, aber das neue Rückwärts-Modell kann auch gute Texte vom Ende aus verfassen – so bei Kochrezepten, Gesetzen und Bundestagsreden.“ Leo Blume habe eigene komplexe Visualisierungen der Modellstrukturen erarbeitet, die zeigen, „dass beide sprachliche Muster lernen, aber sich in Aufbau und Ausgabe unterscheiden“. Zudem entwickelte die Gewinnerin eine interaktive Web-Anwendung, in der die KI ausprobiert und getestet werden kann. „Die Resultate belegen, dass Textverarbeitungsrichtung einen wesentlichen Einfluss auf die Leistungsfähigkeit von KI in der Sprachverarbeitung hat“, so heißt es in einem offiziellen Schreiben von Jugend forscht.
Beworben hatte Leo Blume sich November. „Die fokussierte Ausarbeitung begann Anfang Oktober und dauert seither an“, erklärt sie.
Die 16-Jährige ist Altersgenoss*innen voraus. Ihr Abitur hat sie schon abgelegt und ist gedanklich schon beim Studium. „Nach meinem Bundesfreiwilligendienst hier an der Hochschule plane ich, Informatik zu studieren. Weil ich immer wieder merke, wie sehr mir die Forschung Spaß macht und wie sehr mich die Suche nach Erkenntnisgewinn motiviert, strebe ich durchaus auch eine akademische Karriere auf dem Gebiet der Informatik an.“
Für die Hochschule Stralsund ist sie schon jetzt eine Bereicherung, unterstützt Silke Krumrey im Familiencenter und stellt beispielsweise mit dem MINT-Marketing Schüler*innen das HOST-Angebot vor.
Der Wettbewerb
Die Sieger*innen des 35. Landeswettbewerbs Jugend forscht und des Regionalwettbewerbs Jugend forscht junior gingen aus 81 Nachwuchsforscher*innen aus Mecklenburg-Vorpommern hervor. Sie präsentierten am 19. März 41 Projekte in der Stadthalle Rostock. Eine Fachjury hat die Arbeiten in den sieben Fachgebieten Arbeitswelt, Biologie, Chemie, Geo- und Raumwissenschaften, Mathematik/Informatik, Physik und Technik begutachtet und Preise vergeben. Die WEMAG und die Stadtwerke Rostock AG unterstützen den Wettbewerb auf Landesebene.
Ihr Thema: Künstliche Intelligenz. Fach-Experte Prof. Dr. Grüning, der auch Leiter des Studiengangs Softwareentwicklung und Künstliche Intelligenz ist, unterstützte sie und fuhr mit ihr zum Wettbewerb.
Im Projekt DEversAI untersucht sie, ob KI-Sprachmodelle besser funktionieren, wenn sie Texte rückwärts statt vorwärts verarbeiten. Ziel ist es, herauszufinden, ob Rückwärts-Modelle neue Möglichkeiten eröffnen und ob Erkenntnisse aus englischer Forschung im Deutschen gelten. „Ich habe mich mit Grundmodellen von Large Language Models (LLMs) beschäftigt und über Infrastruktur der Hochschule selbst eigene LLM-Modellpaare trainiert“, erklärt Leo Blume. Ein KI-Modell verarbeitet den deutschen Text vorwärts, wie alle heute verbreiteten KIs, und eines liest den Text rückwärts ein – der neue antikausale Ansatz. „Diese habe ich auf sehr viele verschiedene Arten und Weisen analysiert und verglichen. Im Ergebnis schneiden die Vorwärts-Sprachmodelle immer ein wenig (statistisch messbar) besser ab als die Rückwärts-Sprachmodelle, aber beide können Text generieren“, erklärt sie. „Dazu gibt es große Unterschiede zwischen verschiedenen Textarten, zum Beispiel können Gesetzestexte ungefähr gleich gut vorwärts und rückwärts erzeugt werden, aber Bundestagsplenarprotokolle sehr viel besser vorwärts. „Diese Erkenntnisse sind in Bezug auf die Grundlagenforschung von Sprachmodellen als auch die praktische Weiterentwicklung von KI von hoher Bedeutung“, berichtet Leo Blume und auch im offiziellen Wettbewerbsstatement heißt es lobend:
„Die Ergebnisse sind vielversprechend. Das Vorwärts-Modell liefert präzisere Vorhersagen, aber das neue Rückwärts-Modell kann auch gute Texte vom Ende aus verfassen – so bei Kochrezepten, Gesetzen und Bundestagsreden.“ Leo Blume habe eigene komplexe Visualisierungen der Modellstrukturen erarbeitet, die zeigen, „dass beide sprachliche Muster lernen, aber sich in Aufbau und Ausgabe unterscheiden“. Zudem entwickelte die Gewinnerin eine interaktive Web-Anwendung, in der die KI ausprobiert und getestet werden kann. „Die Resultate belegen, dass Textverarbeitungsrichtung einen wesentlichen Einfluss auf die Leistungsfähigkeit von KI in der Sprachverarbeitung hat“, so heißt es in einem offiziellen Schreiben von Jugend forscht.
Beworben hatte Leo Blume sich November. „Die fokussierte Ausarbeitung begann Anfang Oktober und dauert seither an“, erklärt sie.
Die 16-Jährige ist Altersgenoss*innen voraus. Ihr Abitur hat sie schon abgelegt und ist gedanklich schon beim Studium. „Nach meinem Bundesfreiwilligendienst hier an der Hochschule plane ich, Informatik zu studieren. Weil ich immer wieder merke, wie sehr mir die Forschung Spaß macht und wie sehr mich die Suche nach Erkenntnisgewinn motiviert, strebe ich durchaus auch eine akademische Karriere auf dem Gebiet der Informatik an.“
Für die Hochschule Stralsund ist sie schon jetzt eine Bereicherung, unterstützt Silke Krumrey im Familiencenter und stellt beispielsweise mit dem MINT-Marketing Schüler*innen das HOST-Angebot vor.
Der Wettbewerb
Die Sieger*innen des 35. Landeswettbewerbs Jugend forscht und des Regionalwettbewerbs Jugend forscht junior gingen aus 81 Nachwuchsforscher*innen aus Mecklenburg-Vorpommern hervor. Sie präsentierten am 19. März 41 Projekte in der Stadthalle Rostock. Eine Fachjury hat die Arbeiten in den sieben Fachgebieten Arbeitswelt, Biologie, Chemie, Geo- und Raumwissenschaften, Mathematik/Informatik, Physik und Technik begutachtet und Preise vergeben. Die WEMAG und die Stadtwerke Rostock AG unterstützen den Wettbewerb auf Landesebene.
