Offene Abschlussarbeiten

Das Forschungsfeld Explainable AI (XAI) zielt auf die Erhöhung der Transparenz von KI-Modellen, eine bessere Nachvollziehbarkeit der KI-Entscheidungen und eine verbesserte Erklärung des Modellverhaltens ab. Grund dafür ist die steigende Komplexität moderner KI-Modelle, die dazu führt, dass die ihre Entscheidungen nur schwer durch den Menschen nachvollzogen werden können. Daher werden solche Modelle auch als Black-Box bezeichnet.

Innerhalb dieses Forschungsfeldes gibt es eine Vielzahl unterschiedlicher Methoden. Um jedoch eine umfassende Erklärung zu generieren, sollen verschiedene Ansätze zusammen genutzt werden. Dadurch können unterschiedliche Aspekte einer Erklärung berücksichtigt werden.

Ziel dieser Arbeit ist es, verschiedene XAI-Methoden miteinander zu kombinieren und anhand einer Nutzerstudie zu evaluieren. Dabei soll erforscht werden, welche Kombinationsmöglichkeiten besonders gut geeignet sind, um KI-Ausgaben zu erklären.

Das Forschungsfeld Explainable AI (XAI) zielt auf die Erhöhung der Transparenz von KI-Modellen, eine bessere Nachvollziehbarkeit der KI-Entscheidungen und eine verbesserte Erklärung des Modellverhaltens ab. Grund dafür ist die steigende Komplexität moderner KI-Modelle, die dazu führt, dass die ihre Entscheidungen nur schwer durch den Menschen nachvollzogen werden können. Daher werden solche Modelle auch als Black-Box bezeichnet.

Die größte Gruppe an XAI-Methoden versucht die Wichtigkeit der Modelleingaben für die Modellausgabe zu bewerten. Die Wichtigkeit wird in der Regel in Matrixform dargestellt. Erklärungen in Textform können jedoch helfen, um Erklärungen insbesondere für Laien-Nutzer zu vereinfachen.

Daher ist es das Ziel dieser Arbeit, eine Methode zu entwickeln, die die Ausgaben etablierter Methoden nutzt, um Fließtext-Erklärungen zu generieren.

Voraussetzung: Kenntnisse in der Python-Programmierung

Um Informationen vor unbefugtem Zugriff zu schützen, ist es wichtig, dass Organisationen und Unternehmen Anforderungen an Informationssicherheit und Datenschutz systematisch erfüllen. Die CertVision GmbH ist eine junge Unternehmung von Informationssicherheits-, Cloud- und Softwareentwicklungsspezialisten, die gemeinsam im Bereich Informationssicherheit maßgeschneiderte Produkte entwickeln. Mit der bekannten Informationssicherheits-Software „NormTracker“ ist das Unternehmen im Gesundheitswesen, im Bereich Automotive und KMU tätig und erleichtert die Einführung sowie den Betrieb von Informationssicherheits-Managementsystemen (ISMS).

Die Themen für eine Abschlussarbeit bewegen sich je nach Interesse im Gebiet IT-Sicherheit, Cloudtechnologien, Softwareentwicklung und Testplanung/-automatisierung, sowie können einen betriebswirtschaftlichen Fokus oder Implementierungsfokus haben. Die Ausschreibung richtet sich an Studierende, die Interesse haben, auch längerfristig bei der CertVision einzusteigen (z.B. als Werkstudent). Mögliche Themen sind u.a.:

• Konzeptionierung eines Partnermanagements zur Vermarktung von webbasierten Software-Produkten
• Methoden der Verschlankung von Informationssicherheitsprozessen im Mittelstand
• Benefits der softwaregestützten Implementierung eines Informationssicherheits-Managementsystems
• Vermarktungsvorteile einer webbasierten Software gegenüber lokalen Installationen
• Analyse der Wettbewerbsvorteile von Unternehmen mit zertifiziertem ISMS

Computer Vision is a subfield of Machine Learning (ML) that typically uses Convolutional Neural Networks (CNNs) to process Images. Instead of using CNNs, Google lately suggested new architectures (see e.g., Transformer and Mixer) to deal with spatial data. Recently, the Vision Transformer (ViT) has emerged as a competitive alternative to Convolutional Neural Networks (CNN), which are currently the state of the art in Computer Vision and are therefore widely used in various image recognition tasks.

The goal of this thesis is to compare a CNN (e.g. ResNet50) and a ViT using XAI methods, like GradCam. More details will follow in consultation.
Important: Very good knowledge in statistics is required to work on this thesis! Expected starting date is as soon as possible.

Computer Vision is a subfield of Machine Learning (ML) that typically uses Convolutional Neural Networks (CNNs) to process Images. Instead of using CNNs, Google lately suggested new architectures (see e.g., Transformer and Mixer) to deal with spatial data. Recently, the Vision Transformer (ViT) has emerged as a competitive alternative to Convolutional Neural Networks (CNN), which are currently the state of the art in Computer Vision and are therefore widely used in various image recognition tasks.

The goal of this thesis is to compare a CNN (e.g. ResNet50), ViT, (and MLPMixer). More details will follow in consultation.
Important: Very good knowledge in statistics is required to work on this thesis! Expected starting date is as soon as possible.

Maschinelles Lernen ist ein Thema von großem Forschungsinteresse.

Für aktuelle Trends siehe z.B. Google AI Blog.

Bitte nur mit einem eigenen Thema bzw. konkreter Forschungsfrage bewerben.

Beispiel: CO2 Fußabdruck von ML und energiesparende Maßnahmen

Computer Vision is a subfield of Machine Learning (ML) that typically uses Convolutional Neural Networks (CNNs) to process Images. Instead of using CNNs, Google recently suggested new archtectures (see e.g., Transformer and Mixer) to deal with spatial data. While the top-line generalization accuracy has been comparatevly to CNNs, the fairness (measured as the parity of accuracy) among subgropus remains an open question.

Using the publicly available CelebA dataset, the goal of this thesis is to compare ResNet18 (representative for CNNs), ViT, and MLPMixer in terms of their accuracy within ethnical subgroupus (i.e., Gender and Age). See Sagawa et al. (2020) for the methodological setup (also code snippets available upon request) and Hooker et al. (2020) for a rigorous assessment of algorithmic bias.

NVIDIA GPU or Google Colab Prenium recommended.

The Machine Learning field represents one of the most active research communities, where each month a big amount of new papers are being published. With a high degree of interdisciplinarity, we can observe that researchers invent or extend algorithms for known problems.
Thus, keeping track of new algorithms and state-of-the-art solutions becomes more challenging. To tackle this problem, there have been efforts to make the comparison of state-of-the-art algorithms more transparent, one example is paperswithcode.com. However, only certain algorithms can be found there.In this thesis, we want to show an alternative to existing benchmarking websites. The goal is to transfer the experiment results for machine learning papers in the field of anomaly detection into a graph database (Neo4J) and to evaluate the solution with regards to comparability and transparency. For this, some existing prework has been done that can be used in the thesis.

The Startup-Ecosystem is a high evolving one, which encompasses several actors and relationships between each other, such as startups, entrepreneurs, different kinds of investors, incubators and institutions, to name a few. Every year, startups are born, die or become highly valuated unicorns. Understanding and being up-to-date in this highly evolving field is not only critical for several actors such as companies and private investors, but also to several research communities, like innovation research.Knowledge Graphs, on the other side, have become a popular technology when managing highly connected data and complex domains. Thus, in this thesis the goal is to concept a Knowledge Graph (with the respective ontology) that represents the main actors and relationships in the European Startup Ecosystem. Depending on the focus of the thesis, a prototype can be implemented.

Pre-requisites:

– Knowledge about Ontologies and Knowledge Graphs

– Interest for the Startup domain

„Relation Extraction“ is the task of predicting attributes and relations for entities in a sentence. For example, given a sentence “Barack Obama was born in Honolulu, Hawaii.”, a relation classifier aims at predicting the relation of “bornInCity”. Relation Extraction is the key component for building relation knowledge graphs, and it is of crucial significance to natural language processing applications such as structured search, sentiment analysis, question answering, and summarization“ (arXiv:1707.08866).

Ziel der Arbeit ist es, anhand eines konkreten Anwendungsbeispiels aus der Domäne der Startupbranche, einen NLP-basierten Algorithmus oder Teile davon prototypisch zu implementieren. Hierbei sollen als Datengrundlage News-Artikel der Startupbranche als unstrukturierte Textdokumente genommen werden.

Voraussetzungen:

• Grundkenntnisse in Python oder anderen Programmiersprachen
• Grundkenntnisse oder Interesse an ML-Modellen, insbesondere im Bereich Natural Language Processing

The goal of this thesis is to apply an unsupervised Graph Neural Network on the Coburg Intrusion Detection Dataset  for Network Intrusion Detection and evaluate the solution with other State-Of-The-Art algorithms.More information upon request.

Prerequisites:

– Knowledge/Experience in Python, Pytorch or similar

– Knowledge of Graph Neural Networks

Graph Neural Networks (GNNs) have gained interest in the past years, as they provide a suitable neural networks based technique to process graph and network data. Typical graph data are social networks, used in platforms like Twitter and Facebook.Recently, there have been efforts to combine GNNs with Reinforcement Learning with promising results. Exemplary use cases are fraud detection and molecular property prediction (E.g. for medicinal drug discovery).The aim of this work is to provide a comprehensive systematic literature analysis for GNNs in combination with Reinforcement Learning.

Neural Recommendation System for Academic Contents – A Graph Neural Network Based Approach at FAU

Recommendation Systems have been successfuly used in many areas, like marketing and E-commerce. A reason is that this technology tackles the problem of information overload, which often occurs in decision processes.

For this thesis, the aim is to implement a prototype for a recommendation algorithm for the academic content at the FAU with the usage of Graph Neural Networks. These type of deep learning technique are used in many state of the art recommendation approaches (e.g. recommendations at pinterest: shorturl.at/hFNP1).  Data (Already preprocessed) and a first graph structure will be provided.

Prerequisites:

• Experience in programming languages like python and machine learning frameworks
• Interess or experience in graph based approaches