Last-Minute-Wiederholung

Die letzte Stunde vor der Klausur: nur das, was wirklich Punkte bringt - plus Modellantworten auf die echten Mini-Test-Fragen.

EKI00 - Einführung in die Künstliche Intelligenz

Musst du wissen:

  • KI = Maschinen/Software, die das Verhalten menschlicher Intelligenz zeigen (Wahrnehmen, Lernen/Wissen/Nachdenken, Kommunizieren, Handeln).
  • KI-Landkarte (Humm): Achsen Acquiring vs. Applying; zwei Paradigmen (Non-symbolic AI/ML vs. Symbolic AI/Knowledge-based); sechs Bereiche (Perceiving, Communicating, Reasoning, Acting, Learning, Knowing).
  • Geschichte: Turing (Berechenbarkeit, Turing-Test), Dartmouth 1956 (Begriff "AI", McCarthy/Minsky), Logic Theorist; Hype 1960-80; KI-Winter 1980-90.
  • Gartner Hype-Zyklus: 5 Phasen; KI-Winter = Trough of Disillusionment.
  • Klausur: 90 Min, nur ein beidseitig handbeschriebenes DIN-A4-Blatt, keine Elektronik.

Wenn du nur 3 Dinge lernst:

  • Definition KI und die vier menschlichen Fähigkeiten.
  • Die zwei Paradigmen (symbolisch vs. nicht-symbolisch) plus sechs Bereiche der Landkarte.
  • Turing, Dartmouth 1956, KI-Winter und die 5 Hype-Zyklus-Phasen.

EKI02 - Maschinelles Lernen: Klassifikation

Musst du wissen:

  • ML = Modell aus Eingaben erzeugen (Training) und für Vorhersagen nutzen; das Modell wird nicht explizit programmiert.
  • Kategorien: Supervised, Unsupervised, Reinforcement; Supervised -> Klassifikation (Kategorie) + Regression (Zahl).
  • Titanic: binäre Klassifikation (Survived 0/1); Features = Passagierinfos, Label = Survived.
  • Entscheidungsbaum: Klassen = Blätter, Entscheidungen = innere Knoten, Werte = Kanten.
  • Entropie H(M)=∑i−cilog⁡2(ci)H(M) = \sum_i -c_i \log_2(c_i); maximal bei 50/50, 0 bei reiner Klasse. Split mit größtem Entropieverlust (Information Gain) wählen.
  • Workflow: read_csv -> vorverarbeiten (fillna, SimpleImputer) -> DecisionTreeClassifier() -> fit(X,y) -> predict(X_test).

Wenn du nur 3 Dinge lernst:

  • Klassifikation vs. Regression und die drei ML-Kategorien.
  • Entropie-Formel und Aufbau des Entscheidungsbaums per größtem Entropieverlust.
  • Der scikit-learn-Workflow inkl. Vorverarbeitung (fehlende Werte auffüllen).

EKI03 - Maschinelles Lernen: Regression

Musst du wissen:

  • Regression sagt einen numerischen Wert voraus (vs. Kategorie bei Klassifikation).
  • ML-Entwicklungsprozess: konfigurieren -> trainieren -> validieren -> "gut genug?" (Iteration) -> produktive Vorhersage auf Live-Daten.
  • Konfusionsmatrix: TP, FP (Type I), FN (Type II), TN. Aus dem Beispiel (TP=1, FP=1, FN=8, TN=90): Accuracy 0.91, Precision 0.5, Recall 0.111, F-Score 0.181.
  • Accuracy versagt bei unausgewogenen Datensätzen -> F-Score nehmen.
  • Regressionsmaße: MAE, MSE (bestraft große Fehler), RMSE (Einheit der Zielgröße).
  • k-fache Kreuzvalidierung: in k Folds teilen, k-mal trainieren/validieren, Mittelwert. cross_val_score Default: accuracy, k=5.

Wenn du nur 3 Dinge lernst:

  • Konfusionsmatrix und die vier Maße (Accuracy, Precision, Recall, F-Score) rechnen können.
  • Wann Accuracy versagt und dass dann der F-Score genommen wird.
  • MAE/MSE/RMSE und die k-fache Kreuzvalidierung.

EKI04 - Wissensrepräsentation

Musst du wissen:

  • Symbolische KI, Feld "Knowing"; verwandt: Knowledge graphs, Semantic networks, Ontologies, Logic programming.
  • Drei Bausteine von Wissen: Objekte/Instanzen, Klassen, Beziehungen.
  • Wissensgraph = gerichteter Graph aus Knoten (Objekte, Klassen, Werte) und benannten Kanten.
  • RDF = formale Sprache für Wissensgraphen (W3C, Semantic Web), Notation Turtle. Resource = URI; @base/PREFIX kürzt ab.
  • RDF-Tripel = Subjekt + Prädikat + Objekt; Subjekt/Prädikat sind Resourcen, Objekt Resource oder Wert; . beendet, ; verkettet, a = rdf:type.
  • SPARQL: PREFIX, SELECT ?var, WHERE { muster }; Ergebnis = Tabelle (Spalte pro Variable, Zeile pro Treffer). Join = gleiche Variable mehrfach; DISTINCT gegen Duplikate.

Wenn du nur 3 Dinge lernst:

  • RDF-Tripel (Subjekt-Prädikat-Objekt) und die Turtle-Zeichen . ; a.
  • SPARQL-Grundgerüst und das Ergebnisformat (Zeilen/Spalten).
  • Join über dieselbe Variable und DISTINCT.

EKI05 - Complex Event Processing

Musst du wissen:

  • CEP = Verarbeiten eines Stroms von Ereignissen und Ableiten von Schlüssen daraus (Reasoning, symbolische KI).
  • Drei Begriffe: Ereignis (etwas Passiertes), Ereignisobjekt (Datensatz dazu), Ereignistyp (Struktur/Schema: Attribute + Datentypen).
  • DBMS vs. CEP (Umkehr!): DBMS = persistente Daten + volatile Query; CEP = persistente Regel + fließender Ereignisstrom.
  • Iteratives CEP: Ausgabeereignisse werden erneut Eingabe -> von low-level zu high-level.
  • Sliding/Rolling Window mit n (Dauer) und m (Häufigkeit/Versatz).
  • Anwendungen (Betrugserkennung, Predictive Maintenance, Logistik, Wertpapierhandel, COVID) und Technologien (Kafka, Flink, Spark, ...).

Wenn du nur 3 Dinge lernst:

  • CEP-Definition und die Abgrenzung DBMS vs. CEP.
  • Ereignis / Ereignisobjekt / Ereignistyp.
  • Sliding Window mit n und m plus iteratives CEP.

EKI06 - Computer Vision

Musst du wissen:

  • CV-Anwendungen: OCR, Gesichtserkennung, Medizin, Industrie/Landwirtschaft, Militär, Automobil, Film.
  • Künstliches Neuron: gewichtete Summe sum=∑iiniwisum = \sum_i in_i w_i, Bias über in0=1in_0=1, Sigmoid out=11+e−sumout = \frac{1}{1+e^{-sum}}, Ableitung f′=f(1−f)f' = f(1-f).
  • ANN: Eingabe-/Zwischen-/Ausgabeschicht; feed-forward vs. recurrent. Kostenfunktion Cost=∑i(target−out)2Cost = \sum_i (target-out)^2.
  • Gradientenabstieg: Gewichte in Richtung −η∇Cost-\eta \nabla Cost; Backpropagation in 5 Schritten (Rumelhart/Hinton/Williams).
  • Deep Learning: viele Schichten, low-level (Pixel) -> medium (Formen) -> high (Klassen).
  • CNN: Convolution (Filter/Kernel, erhält Nachbarschaft, verkleinert Bild), Pooling (Max/Durchschnitt/Summe), Fully Connected (Klassifikation, Ausgabeneuronen = Klassen).
  • MNIST: 28x28 = 784, Kanal 1, /255 normalisieren, One-Hot 10 Klassen; Keras/TensorFlow-Workflow (Sequential, compile, fit).

Wenn du nur 3 Dinge lernst:

  • Künstliches Neuron (gewichtete Summe + Sigmoid) und die 5 Backpropagation-Schritte.
  • CNN-Bausteine Convolution / Pooling / Fully Connected (Faltungs- und Max-Pooling-Beispiel rechnen).
  • MNIST-Repräsentation und der Keras/TensorFlow-Workflow.

EKI07 - Natural Language Processing

Musst du wissen:

  • Sechs NLP-Bereiche: Information Retrieval, Textklassifikation, Information Extraction, Question Answering, Maschinelles Übersetzen, Texterzeugung.
  • Bag-of-Words: Text als Multi-Set von Worten mit Häufigkeiten, ohne Grammatik/Reihenfolge; erzeugt Feature-Vektoren.
  • tf-idf: häufige Wörter sind nicht die wichtigsten -> tf mit inverser df normalisieren. tfidf=tf⋅idf\text{tfidf} = \text{tf}\cdot\text{idf}, idf=log⁡(N/df)\text{idf} = \log(N/df).
  • n-Gramm: Sequenzen aus N aufeinanderfolgenden Worten; erfasst Kontext, kombinierbar mit tf-idf.
  • scikit-learn-Pipeline: CountVectorizer -> TfidfTransformer -> MultinomialNB.
  • spaCy: Tokenization, POS-Tagging, Dependency Parsing, Lemmatization, SBD, NER, Entity Linking, Similarity, Text Classification, Rule-based Matching.
  • Einfaches QA: ähnlichste FAQ-Frage finden und deren Antwort zurückgeben.

Wenn du nur 3 Dinge lernst:

  • Die sechs NLP-Bereiche mit Eingabe/Ausgabe.
  • Bag-of-Words und tf-idf (Motivation + Formel).
  • scikit-learn-Pipeline und die spaCy-Funktionalitäten.

EKI08 - Ethische Aspekte der KI

Musst du wissen:

  • Leitfrage: "Wer soll entscheiden, Mensch oder Maschine?"
  • Hype = Hyperbel (Übertreibung); Fehlprognosen Minsky 1967/1970, Kurzweil 2005.
  • Realität: KI allgegenwärtig (Alexa, Gesichtserkennung, Waymo).
  • Cyborg: technologisch erweiterter Mensch (Neil Harbisson, Amanda Kitts; alltäglich: Hörgeräte, Herzschrittmacher).
  • Arbeitsplätze: Bezug Industrielle Revolution; hohe Automatisierungswahrscheinlichkeiten (Frey and Osborne).
  • Bias im ML: Vorurteile der Vergangenheit werden in die Zukunft projiziert; ProPublica/COMPAS (Prater vs. Borden).
  • Maschinelle Entscheidungen: Hochfrequenzhandel (Flash Crash), autonome Waffen (Future of Life Open Letter, "dritte Revolution der Kriegsführung").

Wenn du nur 3 Dinge lernst:

  • Bias im ML mit dem ProPublica/COMPAS-Beispiel.
  • Cyborg-Definition und Beispiele.
  • Die zwei Entscheidungs-Problemfelder (HFT/Flash Crash, autonome Waffen).

EKI09 - Unsupervised Learning

Musst du wissen:

  • Unsupervised Learning = ohne Labels; Ziele: Ausreißererkennung, Clustering, Dimensionsreduktion, Datengenerierung.
  • Curse of Dimensionality: bei Volumen 1 wächst die Diagonale dn=nd_n = \sqrt{n}; Volumen wächst exponentiell V([0,2]n)=2nV([0,2]^n) = 2^n (Bellman).
  • Vier einfache Reduktionsverfahren und Nachteile: Weglassen, Zufallsprojektion (ϕ(x)=Rx\phi(x)=Rx), Feature Engineering (min/max), gelernte Projektion.
  • PCA in 5 Schritten: zentrieren, Kovarianzmatrix, Eigenvektoren/Eigenwerte (Mx=λxMx=\lambda x), nach Eigenwert sortieren, Hauptkomponenten als Linearkombination; erklärte Varianz.
  • Autoencoder: Encoder -> Latent Space -> Decoder; nichtlineare Reduktion, Noise Reduction, Outlier Detection, Datengenerierung.
  • k-Means: k zufällige Zentren, Zuordnung (euklidischer Abstand), Update (Mittelwert), bis Konvergenz. Vorher Min-Max-normalisieren. Varianten: k-means++, k-medians, k-medoids.

Wenn du nur 3 Dinge lernst:

  • Die vier Aufgaben des Unsupervised Learning.
  • PCA-Algorithmus (5 Schritte) und erklärte Varianz.
  • k-Means-Pseudocode plus warum Normalisierung nötig ist.

Mini-Test-Antworten

EKI00 - Einführung

  1. Was versteht man unter dem Begriff "Künstliche Intelligenz"? Maschinen oder Software-Anwendungen, die das Verhalten menschlicher Intelligenz zeigen - also Wahrnehmen, Lernen/Wissen/Nachdenken, Kommunizieren und Handeln nachbilden.
  2. Erklären Sie kurz die Geschichte der KI. Anfänge mit Turing (Berechenbarkeit, Turing-Test) und dem Dartmouth-Workshop 1956, der den Begriff "Artificial Intelligence" prägte (McCarthy, Minsky u.a.). Es folgten der AI-Hype (1960-80) mit überzogenen Versprechen und starker Förderung, dann der KI-Winter (1980-90) mit enttäuschten Erwartungen, Förderkürzungen und Marktkollaps - ein Musterbeispiel eines Hype-Zyklus.
  3. In welcher Hinsicht ist KI heutzutage "relevant und überall"? KI steckt im Alltag (Sprachsteuerung, Gesichtserkennung, Spam-Erkennung, KI in Spielen, semantische Suche, maschinelle Übersetzung) und in professionellen Anwendungen (Business Intelligence/Sentiment-Analyse, Robotik, Militäranwendungen).
  4. Inwieweit existiert heutzutage ein KI-Hype? Neben realen Anwendungen gibt es weiterhin überzogene Zukunftsversprechen (z.B. Kurzweil 2029/2045), verstärkt durch Populärkultur (A.I., Ex Machina, I, Robot). Übertreibungen sind also kritisch einzuordnen.
  5. Was sind die Hauptbereiche der KI, die in diesem Kurs behandelt werden? Machine Learning (Klassifikation, Regression), Wissensrepräsentation, Computer Vision, NLP, Unsupervised Learning, ethische Aspekte und Reasoning/CEP - dazu Python als zentrale Sprache.

EKI02 - ML Klassifikation

  1. Was ist ML? Das Erzeugen eines Modells aus Eingabedaten (Training) und dessen Nutzung für Vorhersagen (produktive Anwendung); das Modell wird gelernt, nicht explizit programmiert.
  2. Wann soll man ML benutzen, wann nicht? ML lohnt sich, wenn genügend Beispieldaten vorliegen und die Regeln zu komplex sind, um sie von Hand zu programmieren (z.B. Spam-Filter). Lässt sich das Problem einfach und exakt explizit programmieren, ist ML unnötig. (Die Folie wirft dies als Denkfrage auf; das Titanic-Beispiel wird selbst als "kein realistisches ML-Beispiel" markiert.)
  3. Nennen Sie ML-Anwendungen. Spam Filtering (Klassifikation von E-Mails), Wertpapierhandel (Kauf-/Verkaufsempfehlungen), Fraud-Detection.
  4. Erklären Sie die ML-Kategorie "Supervised Learning". Überwachtes Lernen nutzt beschriftete Trainingsdaten (mit bekannter Ausgabe/Label), um ein Modell zu erzeugen, das für neue Daten die Ausgabe vorhersagt. Aufgaben sind Klassifikation und Regression.
  5. Erklären Sie die ML-Aufgabe Klassifikation. Gegeben sind Datensätze, die in zwei oder mehr Klassen eingeteilt sind; Ziel ist ein Modell, das neue, unbekannte Datensätze einer Klasse zuordnet (z.B. Spam/nicht Spam).
  6. Was ist Kaggle? Eine Community-Plattform mit Datensätzen und Wettbewerben; man lädt train.csv/test.csv herunter, reicht eine submission.csv ein und sieht seine Position im Leaderboard.
  7. Warum ist es wichtig, einen Datensatz zu analysieren? Um zu erkennen, welche Spalten Features und welche das Label sind, welche Datentypen vorliegen (kategorisch/numerisch/Text) und wo fehlende Werte (NaN) auftreten - diese müssen später vorverarbeitet werden.
  8. Warum ist die Vorverarbeitung wichtig? Nennen Sie Beispiele. Modelle brauchen saubere, vollständige Eingaben. Beispiele: relevante Spalten auswählen, fehlende Werte auffüllen (fillna mit festem Wert wie 'S', oder SimpleImputer(strategy='mean') für den Mittelwert). Testdaten müssen genauso vorverarbeitet werden wie die Trainingsdaten.
  9. Was ist ML-Training? Das "Fitting" des Modells mit den Features X und Labels y (model.fit(X, y)), wodurch aus den Trainingsdaten automatisch ein Modell (hier ein Entscheidungsbaum) entsteht.
  10. Wie baut man einen Entscheidungsbaum auf? Man baut ihn automatisch aus den Trainingsdaten: An jedem Knoten wählt man ein Feature und einen Wert so, dass ein möglichst großer Entropieverlust (Information Gain) entsteht, und teilt die Menge rekursiv weiter, bis eine Teilmenge nur noch eine Klasse enthält (Entropie 0, Blatt).
  11. Wie sagt man neue Fälle vor? Man verarbeitet die neuen Daten genau wie die Trainingsdaten vor und ruft model.predict(X_test) auf; das Modell durchläuft den Baum und gibt die Klasse aus.

EKI03 - ML Regression

  1. Erklären Sie die ML-Aufgabe Regression. Gegeben sind Datensätze mit einem numerischen Ausgabewert; Ziel ist ein Modell, das für neue Daten diesen kontinuierlichen Wert vorhersagt (z.B. Aktienkurs, Filmumsatz).
  2. Erklären Sie den ML-Entwicklungsprozess. Man konfiguriert das Modell, trainiert es mit Trainingsdaten und validiert es mit Testdaten. Ist es "not good enough", geht es zurück zur Konfiguration (Iteration); ist es "good enough", wird es in der Produktionsphase auf Live-Daten angewendet, um Vorhersagen zu erzeugen.
  3. Warum ist es wichtig, ein ML-Modell zu validieren? Nur durch Validierung lässt sich vor dem produktiven Einsatz beurteilen, ob das Modell "gut genug" ist und verlässliche Vorhersagen liefert.
  4. Erklären Sie die Konfusionsmatrix. Eine Tabelle, die Vorhersagen (Zeilen) mit dem tatsächlichen Zustand (Spalten) vergleicht: TP (korrekt positiv), TN (korrekt negativ), FP (falsch positiv, Type I Error) und FN (falsch negativ, Type II Error).
  5. Erklären Sie Treffergenauigkeit. Accuracy = korrekte Vorhersagen / alle Vorhersagen, binär TP+TNTP+TN+FP+FN\frac{TP+TN}{TP+TN+FP+FN}; im Beispiel 1+90100=0.91\frac{1+90}{100} = 0.91.
  6. Wann ist es sinnvoll, Treffergenauigkeit zu benutzen, wann nicht? Bei ausgewogenen Datensätzen ist sie sinnvoll. Bei unausgewogenen Datensätzen ist sie irreführend (im Tumor-Beispiel 0.91, obwohl 8 von 9 Kranken falsch klassifiziert werden).
  7. Welcher Score sollte bei unausgewogenen Datensätzen verwendet werden? Der F-Score (F1), das harmonische Mittel aus Precision und Recall (im Beispiel 0.181, spiegelt die schlechte Qualität besser wider).
  8. Welche Scores existieren für die Validierung von Regressionen? MAE (mittlerer absoluter Fehler), MSE (mittlerer quadratischer Fehler, bestraft große Fehler stärker) und RMSE (Wurzel des MSE, in der Einheit der Zielgröße).
  9. Erklären Sie die k-fache Kreuzvalidierung. Den Datensatz in k Teile teilen, k-mal trainieren (mit k-1 Teilen) und mit dem übrigen Teil validieren, sodass jeder Teil einmal Testmenge ist; das Endergebnis ist der Mittelwert über alle k Iterationen.
  10. Welche ML-Modelle können für Regression verwendet werden? Wie werden sie trainiert und für Vorhersagen benutzt? Z.B. SVR, SGD Regressor, Ridge/Lasso/ElasticNet, Ensemble Regressors (Auswahl über das scikit-learn cheat sheet). Training mit model.fit(X, y), Vorhersage mit model.predict(X_test).

EKI04 - Wissensrepräsentation

  1. Was ist ein Wissensgraph? Eine formale Darstellung von Wissen als gerichteter Graph: Knoten sind Objekte, Klassen oder Werte, Kanten sind benannte Beziehungen.
  2. Nennen Sie Beispiele für Objekte, Klassen und Beziehungen. Am Filmbeispiel: Objekte/Instanzen "A Beautiful Mind", Ron Howard, Drama; Klassen Film, Regisseur, Genre; Beziehungen "ist ein", "gedreht von", "gehört zu".
  3. Was ist eine Resource in RDF? Ein durch eine URI eindeutig benanntes Ding im Wissensgraphen; über @base/PREFIX lassen sich URIs abkürzen (z.B. :Movie_453).
  4. Aus welchen Teilen besteht ein RDF-Tripel? Aus Subjekt, Prädikat und Objekt. Subjekt und Prädikat sind Resourcen, das Objekt ist eine Resource oder ein Wert (String, int, float, date, ...).
  5. Nennen Sie die Klassen des TMDB-Wissensgraph. Movie, Genre, Collection, Company, Country, Language, Keyword, Cast, Crew.
  6. Was ist SPARQL? Die vom W3C standardisierte Abfragesprache für RDF-Wissensgraphen (aktuell Version 1.1).
  7. Wie sehen einfache Queries in SPARQL aus? Sie bestehen aus einem PREFIX, einem SELECT-Teil mit Variablen (mit ?) und einem WHERE-Teil mit einem Tripelmuster; zurückgeliefert werden alle Zuweisungen, die auf das Muster passen.
  8. Wie viele Zeilen und Spalten hat das Ergebnis einer Query? Das Ergebnis ist eine Tabelle mit einer Spalte je Query-Variable und einer Zeile je Zuweisung, die auf das Muster passt.
  9. Wie drückt man in Queries Bedingungen aus? Durch konkrete Werte als Prädikate oder Objekte im Muster (z.B. :title "A Beautiful Mind"), die die Ergebnismenge einschränken.
  10. Wie funktioniert ein Join in SPARQL? Indem man dieselbe Variable an mehreren Stellen verwendet - sie erzwingt jedes Mal denselben Wert und verbindet so die Tripel (z.B. ?g zwischen :genres ?g und ?g :name ?n).
  11. Wie vermeidet man Duplikate im Ergebnis einer Query? Mit SELECT DISTINCT, das doppelte Ergebniszeilen entfernt.

EKI05 - Complex Event Processing

  1. Was ist CEP? Das Verarbeiten eines Stroms von Ereignissen und das Ableiten von Schlüssen daraus - Regeln laufen dauerhaft mit, während die Daten als Strom vorbeifließen.
  2. Nennen Sie CEP-Anwendungen. Betrugserkennung, Predictive Maintenance, Logistik (RFID/Kühlkette), Wertpapierhandel, COVID-19-Monitoring.
  3. Was ist ein Ereignis, Ereignisobjekt und Ereignistyp? Ereignis = etwas Besonderes, das passiert ist; Ereignisobjekt = ein Datensatz, der ein Ereignis repräsentiert; Ereignistyp = die Struktur (Attribute + Datentypen) von Ereignisobjekten.
  4. Wie funktioniert iteratives CEP? Regeln werten den Eingabestrom aus und erzeugen Ausgabeereignisse; diese können erneut als Eingabe dienen, sodass aus low-level schrittweise high-level Ereignisse abgeleitet werden.
  5. Was sind sliding ("rolling") windows? Ein Gleitfenster betrachtet nur den jüngsten Ausschnitt des Stroms und wandert mit der Zeit weiter; Parameter sind n (Dauer/Fensterbreite) und m (Häufigkeit/Versatz).
  6. Nennen Sie CEP-Technologien. Apache Kafka, Apache Flink, Apache Spark, Drools Fusion, MS Azure Stream Analytics, Oracle Stream Analytics, SAG Apama, SAP ESP, SAS ESP, TIBCO, IBM WebSphere Business Events.

EKI06 - Computer Vision

  1. Nennen Sie Computer-Vision-Anwendungen. OCR, Gesichtserkennung, Medizin (CT/PET/MRI/Ultraschall), Industrie/Landwirtschaft, Militär/Luftfahrt, Automobil, Film (Motion Capturing).
  2. Was ist ein ANN? Ein künstliches neuronales Netz aus Schichten von Neuronen (Eingabe-, Zwischen-, Ausgabeschicht); jedes Neuron bildet die gewichtete Summe seiner Eingänge und wendet eine Aktivierungsfunktion (Sigmoid) an. Typen: feed-forward und recurrent.
  3. Was ist Back-Propagation? Das Trainingsverfahren für ANNs in 5 Schritten: vorwärts propagieren, Fehler der letzten Schicht berechnen, deren Korrekturwerte (Deltas) bestimmen, rückwärts die Deltas der vorgelagerten Schichten berechnen und schließlich alle Gewichte mit den Deltas anpassen.
  4. Was ist Deep Learning? Ein ANN mit einer Kaskade vieler Zwischenschichten, das zunehmend komplexere Merkmale erkennt - von low-level (Pixel) über medium-level (Formen) zu high-level (Klassen).
  5. Was ist ein CNN? Ein Convolutional Neural Network für Bilder mit Convolutional Layers (Filter/Kernel, erhalten die räumliche Nachbarschaft, verkleinern das Bild), Pooling Layers (Max/Durchschnitt/Summe, reduzieren die Komplexität) und Fully Connected Layers zur Klassifikation.
  6. Wie werden die Bilder in der MNIST-Datenbank repräsentiert? Als 28x28-Graustufenbild = 784 Zahlen (Vektor); ein Trainingssatz als Matrix [55000, 784], für ein CNN in die Form (28, 28, 1) gebracht; Kaggle-CSV mit 785 Spalten (label + pixel0..pixel783).
  7. Was ist Keras und TensorFlow? Wie werden sie benutzt? TensorFlow ist Googles End-to-End-ML-Bibliothek; Keras ist die High-Level-Deep-Learning-API darauf. Man baut ein Sequential-Modell (Conv2D/MaxPooling2D/Flatten/Dense), ruft compile (optimizer, loss, metrics) und fit (batch_size, epochs) auf und sagt mit predict voraus.

EKI07 - NLP

  1. Benennen und erklären Sie die verschiedenen Bereiche des NLP. Information Retrieval (relevante Dokumente abrufen), Textklassifikation (Text nach Sprache/Thema/Stimmung klassifizieren), Information Extraction (aus Text einen Wissensgraphen aufbauen), Question Answering (Fragen beantworten), Maschinelles Übersetzen (Sprache A -> B) und Texterzeugung (aus Wissensgraph Text erzeugen, inkl. Zusammenfassung).
  2. Was ist die Aufgabe der Textklassifikation? Natürlichsprachliche Texte einer Kategorie zuordnen, z.B. nach Sprache, Thema oder Stimmung (Sentiment).
  3. Erklären Sie das Bag-of-Words-Modell. Ein Text wird als Multi-Set von Worten mit ihren Häufigkeiten dargestellt, ohne Grammatik und Reihenfolge; daraus entstehen Feature-Vektoren für ML (z.B. "John":1, "likes":2, "movies":2).
  4. Erklären Sie tf-idf. Häufige Wörter sind nicht die wichtigsten; deshalb wird die Worthäufigkeit (tf) mit der inversen Dokumenthäufigkeit (idf) multipliziert. Wörter, die in vielen Dokumenten vorkommen, werden abgewertet (idf=log⁡(N/df)\text{idf} = \log(N/df)), seltene aufgewertet.
  5. Erklären Sie das n-Gramm-Modell. Statt nur einzelner Worte (1-Gramme) werden Sequenzen aus N aufeinanderfolgenden Worten (z.B. Bigramme) als zusätzliche Features betrachtet; das erfasst etwas Wortreihenfolge/Kontext und ist mit tf-idf kombinierbar.
  6. Wie benutzt man Pipelines in scikit-learn? Man verkettet die Schritte (z.B. CountVectorizer, TfidfTransformer, MultinomialNB) mit benannten Stufen in einer Pipeline, die sich wie ein zusammengesetzter Classifier verhält und mit einem fit-Aufruf trainiert wird.
  7. Was ist die NLP-Aufgabe Question Answering? Das Beantworten natürlichsprachiger Fragen (Fragetext -> Antworttext); einfach umgesetzt, indem die ähnlichste bekannte FAQ-Frage gesucht und deren Antwort zurückgegeben wird.
  8. Erklären Sie die Funktionalität von spaCy. Eine allgemeine Open-Source-NLP-Bibliothek mit Tokenization, POS-Tagging, Dependency Parsing, Lemmatization, Sentence Boundary Detection, Named Entity Recognition, Entity Linking, Similarity (Wortvektoren), Text Classification, Rule-based Matching, Training und Serialization.

EKI08 - Ethik

  1. Hype als Hyperbel: Hype ist eine Übertreibung; historische Fehlprognosen (Minsky 1967/1970, Kurzweil 2005) zeigen, wie stark KI-Entwicklung überschätzt wurde.
  2. Hype vs. Realität: Dem filmisch/spekulativ geprägten Bild (A.I., Ex Machina) steht die nüchterne Realität gegenüber - KI ist bereits im Alltag (Alexa, Gesichtserkennung, Waymo).
  3. Was ist ein Cyborg? Ein Mensch, dessen Körper durch Technik erweitert wird - spektakulär (Neil Harbisson mit Antenne, Amanda Kitts mit Armprothese) oder alltäglich (Hörgeräte, Herzschrittmacher, Brillen).
  4. Arbeitsplatzveränderung: Wie schon in der Industriellen Revolution ersetzen Maschinen menschliche Arbeit; Frey and Osborne schätzen für manche Berufe sehr hohe Automatisierungswahrscheinlichkeiten (z.B. Versicherungsprüfer 99%).
  5. Bias im ML: Da Modelle aus historischen Daten lernen, projizieren sie Vorurteile der Vergangenheit in die Zukunft; Beispiel ProPublica/COMPAS (Prater vs. Borden), wo schwarze Angeklagte benachteiligt wurden.
  6. Wer entscheidet, Mensch oder Maschine? Die Kernfrage betrifft folgenreiche Delegation: Hochfrequenzhandel (Flash Crash) und autonome Waffen (Future of Life Open Letter, "dritte Revolution der Kriegsführung") zeigen Chancen und Gefahren maschineller Entscheidungen.

EKI09 - Unsupervised Learning

  1. Was ist Unsupervised Learning? Lernen auf Datensätzen ohne Labels; statt auf eine bekannte Ausgabe zu optimieren, wird Struktur direkt in den Daten gesucht (Ausreißererkennung, Clustering, Dimensionsreduktion, Datengenerierung).
  2. Was ist das Ziel der Clusteranalyse? Den Datensatz in wenige Untergruppen (Cluster) aufzuteilen, sodass Punkte innerhalb einer Gruppe ähnlicher/näher sind als Punkte verschiedener Gruppen (z.B. Kundensegmente, die nicht a priori gegeben sind).
  3. Was sind Ausreißer? Warum wollen wir sie detektieren? Datenpunkte, die stark von den übrigen abweichen; man detektiert sie z.B. zur Fehler-/Betrugserkennung oder um auffällige Fälle zu identifizieren (Anomaly/Outlier Detection).
  4. Wo spielt die Generierung neuer Daten eine Rolle? Wenn man plausible, den Originalen ähnliche neue Daten braucht - etwa mit PCA (Punkte im PC-Raum zurücktransformieren) oder einem Autoencoder (Latent-Space-Vektor durch den Decoder).
  5. Warum wollen wir die Dimension von Datensätzen reduzieren? Wegen des Fluchs der Dimensionalität: In hohen Dimensionen wachsen Abstände (dn=nd_n=\sqrt{n}) und Volumen (2n2^n), die Daten verdünnen sich und statistische Analysen werden schwierig.
  6. Welche Möglichkeiten der Dimensionsreduktion gibt es? Einfache Verfahren (Daten weglassen, Zufallsprojektion ϕ(x)=Rx\phi(x)=Rx, Feature Engineering) sowie gelernte, datenbasierte Projektionen: PCA und Autoencoder.
  7. Wie können wir mit Hilfe der PCA neue Daten erzeugen? Man erzeugt neue Punkte im niedrigdimensionalen PC-Raum und transformiert sie zurück in den ursprünglichen Raum; so entstehen neue, plausible Datensätze (z.B. Temperaturkurven).
  8. Wie sind Autoencoder aufgebaut? Aus einem Encoder (Projektion in den Latent Space), dem Latent Space (niedrigdimensionaler Flaschenhals) und einem Decoder, der daraus eine möglichst gute Approximation x^\hat{x} des Inputs rekonstruiert.
  9. Wie können wir mit Autoencodern die Dimension reduzieren? Der Encoder bildet den Input auf den niedrigdimensionalen Latent Space ab - eine nichtlineare Dimensionsreduktion (im Gegensatz zur linearen PCA).
  10. Wie funktioniert der k-Means-Algorithmus? k zufällige Clusterzentren wählen, jeden Punkt dem nächsten Zentrum (kleinster euklidischer Abstand) zuordnen, jedes Zentrum als Mittelwert seiner Punkte neu berechnen und Zuordnung/Update wiederholen, bis sich die Zentren nicht mehr ändern (Konvergenz).