Kognitive Informatik, auf zum Endspurt

Wow, jetzt ist bereits das fünfte Semester um. Das heißt in wenigen Wochen geht es in das für mich letzte Semester im Bachelor und damit in den Endspurt. Danach werde ich dann zum Master womöglich die Uni wechseln. Computational Neuroscience in Berlin und Neural Information Processing in Berlin sehen sehr interessant aus. Aber jetzt gibt es zunächst mal wieder den Bericht über das vergangene Semester.

1. Mein Stundenplan
2. Neuronale Netze und Lernen
3. Visuelle Aufmerksamkeit und Blickbewegungen
4. Grundlagen Datamining
5. Einführung in die Computergrafik
6. (Teil-)Modul Statistik/Informatik
7. Symbol Grounding
8. Hot Topics in Cognition, Communication and Agents
9. Japanisch Mittelstufe Teil 1 Niveau B1.1
10. Japanisch Tandem Niveau B1
11. Fazit
12. Nützliche Links

Das letzte Semester hatte ich zwar auch wieder reichlich zu tun. Trotzdem war es definitiv eins der besten, da ich in meiner wenigen Freizeit dann doch unglaublich aktiv war und oft mit Leuten etwas unternommen habe. Ich war sicherlich dreimal auf dem Weihnachtsmarkt, bei der Lesenacht in der Uni, beim Famelab und vieles mehr! Doch dieser Artikel soll vom Studium selber handeln und deswegen steige ich jetzt wie gewohnt mit meinem Stundenplan ein.

Mein Stundenplan

Pflichtveranstaltungen sind wie immer fett hervorgehoben. Dies heißt wie immer auch nur, dass diese Veranstaltung belegt und bestanden werden muss, aber nicht das irgendeine Anwesenheitspflicht bestehen würde. In diesem Semester hat sich das aber eh auf nur eine Pflichtveranstaltung, Neuronale Netze und Lernen, beschränkt.

Allerdings müssen im Studium 20 Leistungspunkte im Wahlpflichtbereich gesammelt werden. Dort gibt es eine Reihe von 5 und 10 Punkte Modulen aus denen man wählen kann bzw. muss. Die Auswahl ist wie ich finde aber ausreichend groß, dass für jeden kognitiven Informatiker etwas passendes dabei sein sollte. Infos zum Angebot finden sich im Vorlesungsverzeichnis und im Modulhandbuch.

Desweiteren sind Veranstlaltungen, die in einem zweiwöchigen Rhythmus stattfanden kursiv markiert. Zwei 5 Punkte oder ein 10 Punkte Modul im Wahlpflichtbereich sind benotet einzubringen.

Neuronale Netze und Lernen

Das Modul Neuronale Netze und Lernen erstreckt sich über das fünfte und sechste Semester. Es besteht aus einer von Jochen Steil gehaltenen Vorlesung und einer zweiwöchigen Übung. In diesem Semester haben wir behandelt:

1. Überwachtes Lernen
   1. Maximum Likelihood
   2. Lineare Modelle für Regression
   3. Lineare Modelle zur Klassifikation
   4. Lineare Diskriminanten (inkl. Fisher-Diskriminante)
   5. Perzeptron und Backpropagation
2. Unüberwachtes Lernen und Hebb-Regel

Das ganze ist schon recht mathematisch, gleichzeitig aber auch in den meisten Fällen recht anschaulich. Mit der Zeit stellt man zudem fest, dass sich gewisse Prinzipien wiederholen, so dass das Verständnis auch dadurch nochmals zunimmt.

Was die Übungszettel betrifft, sollte man dafür ein paar Stunden einplanen, da man zum Teil doch einige Zeit dran sitzen kann. Insbesondere da manchmal bereits etwas vorgegriffen wird. Im Tutorium werden die Aufgaben aber in ausreichender Tiefe besprochen. Anfangs waren die Aufgaben übrigens vor allem typische Matheaufgaben mit Rechnen und Herleiten. Später waren es dann zunehmen Programmieraufgaben. Die Programmiersprache ist einem dabei freigstellt. Ich kann aber auf jeden Fall Python in Kombination mit scipy sehr empfehlen. Dort kann man dann direkt mit Matrizen rechnen (unter anderem das Inverse berechnen) und mehrdimensionale Zufallsverteilungen erzeugen.

Die mündliche Prüfung zum Modul wird am Ende des sechsten Semesters statt finden. Daher kann ich mich dazu noch nicht äußern.

Visuelle Aufmerksamkeit und Blickbewegungen

Beim Modul Visuelle Aufmerksamkeit und Blickbewegungen handelt es sich um ein 5 Punkte Modul aus dem Wahlpflichtbereich. Es besteht aus einer Vorlesung, die von Hendrik Koesling gehalten wird. Nach Vorlesungsende gibt es dann eine Blockübungen von 2 oder 3 Tagen Dauer.

Themen der Vorlesung waren:

1. Grundlagen visueller Informationsverarbeitung
2. Farbensehen
3. Form und Gestalt
4. Mechanismen der Tiefenwahrnehmung
5. Optische Wahrnehmungstäuschungen
6. Augenbewegungen
7. Visuelle Aufmerksamkeit
8. Eye-Tracking
9. Grundlagen von Versuchsmethodik und Datenanalyse
10. Modellierung von Blickbewegungsdaten

In der Übung wurde dann das Gelernte in einer kleinen, selbst durchgeführten Eye-Tracker-Studie angewandt. Das fand ich recht interessant. Es sollte aber darauf hingewiesen werden, dass die Übungen weitestgehend aus Programmieren bestanden. Wenn man mit seiner Studie fertig war, durfte man gehen. Konzentriertes Arbeiten hat sich also durchaus gelohnt. Empfehlenswert ist es auch eine Programmiersprache zu können mit der man schnell kleine Programme aus dem Boden stampfen kann. Auch hier würde ich wieder Python mit scipy und evtl. pygame zur Datenvisualisierung empfehlen.

Die mündliche Prüfung ist mit etwas Lernen problemlos zu bestehen.

Grundlagen Datamining

Grundlagen Datamining ist ebenfalls ein 5 Punkte Wahlpflicht-Modul. Es gab eine Vorlesung von Thomas Hermann und zweiwöchige Übungen. Dabei bestand bei den Übungen keine Anwesenheitspflicht und es wurde auch nicht kontrolliert, ob man die Übungszettel bearbeitet hat. Allerdings gab es dort eine kleine Einführung in Python und scipy und man konnte Fragen stellen. Zu beachten wäre noch, dass nur anfangs ein deutschsprachiger Tutor dabei war und ansonsten die Kommunikationssprache mit dem Tutor Englisch war. Aber Englisch sollte man heutzutage eh einigermaßen können. Die Übungszettel bestanden weitestgehend, aber nicht nur, aus Programmieraufgaben.

Behandelt wurden in der Vorlesung folgende Themen:

1. Etwas Statistik
2. Dimensionreduktion
   1. Geometrie hochdimensionaler Räume
   2. Fraktale Dimension
   3. Hauptkomponentenanalyse/Principal Component Analysis (PCA)
   4. Hauptkurven und -flächen
3. Clustering-Methoden
   1. Distanzmaße
   2. Hierarchisches Clustern
   3. Prototypbasiertes Clustern (Soft- und Hardclustering)
4. Datenvisualiersung
5. Multidimensionale Skalierung/Sammon-Abbildung

Wie zu erwarten, gab es auch in dieser Vorlesung wieder viel Mathematik, mal mehr und mal weniger anschaulich. In der mündlichen Prüfung musste man die Formeln zum Teil schon genau hinschreiben können. Aber reines Auswendiglernen hätte nicht gereicht, man musste auch zeigen das man die Thematik verstanden hat.

Anzumerken wäre noch, dass es ein Skript gab. Das war zwar größtenteils nicht ausformuliert war, sondern nur Stichwortartig, aber durchaus brauchbar mit dem Hintergrund der Vorlesung.

Einführung in die Computergrafik

Bei Einführung in die Computergrafik handelt es sich um ein 10 Punkte Wahlpflichtmodul. Es besteht aus drei Semesterwochenstunden Vorlesung und einer Semsterwochenstunde Übungen. Dabei haben sich die Übungen alle zwei Wochen mit der Vorlesung am Donnerstag abgewechselt. Insgesamt erhält man so im Wintersemester 7 Leistungspunkte. Die restlichen drei erhält man im Sommersemester mit einem Projekt oder Seminar.

Thematisch wurden eigentlich alle grundlegenden Kenntnisse für 3D-Computergrafik vermittelt:

1. OpenGL
2. Transformationen
3. Projektionen
4. Farben
5. Beleuchtung
6. Linien
7. Meshes
8. Texturen
9. Szenengraphen
10. Stereoskopisches Rendering
11. Sichtbarkeit
12. Schatten
13. Shaders
14. Raytracing
15. Sampling (Anti-Aliasing)
16. Rendering Equation
17. Monte-Carlo-Raytracing
18. Freeform Curves
19. Freeform Surfaces
20. Subdivision Surfaces
21. Implizite Repräsentationen
22. Volume-Rendering

Die Vorlesung wurde von Mario Botsch gehalten und war definitiv eine der besten Vorlesungen, die ich gehört habe. Sie war stehts verständlich und anschaulich. Natürlich liegt es ein bisschen in der Natur, dass Computergrafik anschaulich ist. Nichts desto trotz hat man es aber auch mit einem gewissen Anteil Mathematik zu tun. Dieser wurde aber immer gut vermittelt. Positiv ist auch hervorzuheben, dass die Vorlesung auf Video aufgezeichnet wurde und man sie sich so später nochmal anschauen konnte. Ich kann nur empfehlen die Vorlesung zu besuchen, wenn man sich zumindest ein bisschen für die Thematik interessiert.

In den Übungen wurden dann das Gelernte noch mit OpenGL und C++ umgesetzt. Dabei hat man fertige Codegrundgerüste erhalten und musste nur den neu gelernten Stoff entsprechend umsetzen. Am Ende des Semsters gab es zudem ein kleines Projekt, wo man sich selber etwas überlegen konnte. Das haben aber leider nicht viele gemacht, da die meisten schon genug Punkte in den Übungen gesammelt hatten und die Prüfungsphase näher rückte. In Computergrafik wird man übrigens mündlich geprüft.

Im nächsten Jahr soll die Vorlesung übrigens etwas umstrukturiert werden, aber ich schätze, dass sie dadurch eher noch besser wird. Immerhin hat sich Mario Botsch Feedback von den Studenten eingeholt und wird dieses wohl auch beachten.

(Teil-)Modul Statistik/Informatik

Für die Bewerbung auf einen Masterstudiengang brauchte ich noch etwas mehr Leistungspunkte in Statistik. Daher habe ich diese Vorlesung der Biologen als individuelle Ergänzung belegt. Gehalten wurde die Vorlesung von Volker Dürr. Von allen mathematischen Vorlesungen in meinem Studium war es die einfachste, da es praktisch nur um die Anwendung ging. Zudem gab es thematische Überschneidungen mit Datamining, wo auch ein paar Methoden aus der Statistik zur Anwedung kamen. (In Visuelle Aufmerksamkeit und Blickbewegungen wurde zudem am Ende nochmal der t-Test behandelt, den ich dann schon kannte.) Aber ich fand auch, dass der Stoff verständlich rüber gebracht wurde. Die wesentlichen Themen waren:

1. Deskriptive Statistik
   1. Mittelwerte, Median
   2. Varianz, Standardabweichung
   3. Box-Plots
   4. Standardfehler
   5. verschiedene Wahrscheinlichkeitsverteilungen
   6. paremetrische und nicht-parametrische Korrelation, Kontingenz
   7. Lineare Regression
2. Schließende Statistik
   1. t-Test, F-Test
   2. Fehler erster und zweiter Art
   3. Korrelationstests
   4. Schiefe, Kurtosis
   5. Konfidenzintervalle
   6. Tests für Verhältnis- und Zählvariablen
   7. Kreisstatistik
   8. Hauptkomponentenanalyse (PCA, nicht klausurrelevant)
3. Varianzanalyse (ANOVA)

Neben dem reinen mathematischen Teil, wurde auch eine Einführung in die Statistik-Programmiersprache R gegeben. Alles R bezogene war für mich als Informatiker natürlich besonders einfach.

Jeweils Donnerstags zu der Vorlesung gab es einen Übungszettel, dessen Lösungen am darauffolgenden Montag vorgestellt wurden. Eine Bearbeitung war keine Pflicht, aber ist natürlich zu empfehlen. Desweiteren gabe es freiwillige Tutorien in denen die Übungszettel auch nochmal durchgesprochen wurden und die Möglichkeit bestand Fragen zu stellen. In meinem Tutorium waren ansonsten nur 1-2 Leute außer mir da, aber je kleiner ein Tutorium desto besser eigentlich.

Die abschließende Klausur bestand dann auch aus einem normalen Rechenteil und einem R-Teil. Zeitlich musste man sich bei der Klausur schon sputen, aber es war machbar. (Wobei ich die Probeklausur einfacher fand.)

Abschließend glaube ich, dass sich der Besuch dieser Vorlesung gelohnt hat. Als reiner Informatiker braucht man vielleicht nicht unbedingt Statistik. Aber es gibt auch in der Informatik einige Teilbereiche, wo man mit Statistik in Kontakt kommt (wie z.B. beim Datamining). Sobald man jedoch irgendetwas mit empirischen Daten macht, und als kognitiver Informatiker ist man ja auch schnell mal in der Neurobiologie oder Verhaltensforschung, kommt man um Statistik nicht drum herum. Daher würde ich auch anderen kognitiven Informatikern empfehlen Statistik als individuelle Ergänzung zumindest in Erwägung zu ziehen. Außerdem helfen einem die Synergieeffekte auch bei anderen Vorlesungen, wo auch hin und wieder etwas Statistik vorkommt.

Symbol Grounding

Das Seminar Symbol Grounding von Philipp Cimiano hat behandelt, wie die Bedeutung von Symbolen in kognitiven Systemen wie dem Menschen verankert und manipuliert werden können. Im Seminar haben wir ältere und neuere Paper zu dem Thema gelesen und diskutiert, unter anderem von Barasalou, Hanard und Steels. Zu einem Paper musste man für die Leistungspunkte noch ein Referat halten.

Interessant war es unter anderem auch dadurch, dass ein paar Mitarbeiter von Cimiano ebenfalls die meiste Zeit im Seminar da waren und so immer jemand qualifizierte Hintergrundinformationen zu den Papern hatten.

Nett war, dass wir alle Paper als ein gedrucktes Skript bekommen haben (das eine beträchtliche Dicke hatte).

Hot Topics in Cognition, Communication and Agents

In diesem Seminar von Stefan Kopp haben wir uns alle zwei Wochen getroffen, um ein oder zwei aktuelle wissenschaftliche Paper aus den Bereichen Kognition, Kommunikation und Agenten (wie der Titel schon sagt) zu diskutieren. Das war abhängig von den Papern mal mehr oder weniger interessant. Da die Auswahl aber gemeinsam getroffen wurde, konnte man auch gut seine eigenen Wünsche einbringen und es war für jeden mal etwas interessantes dabei.

Japanisch Mittelstufe Teil 1 Niveau B1.1

Auch in diesem Semester habe ich wieder den nachfolgenden Japanisch-Kurs bei Masayoshi Tsuchiya belegt. Viele Worte will ich darüber jetzt nicht verlieren, da ich bereits in den Berichten zu den vorherigen Semestern dazu geschrieben habe. Im Vergleich zu den vorherigen Kursen, haben wir jetzt angefangen deutlich mehr Kanji (die von China übernommen Schriftzeichen) zu lernen. Natürlich waren auch wieder viele neue Vokabeln und etwas neue Grammatik dabei.

Japanisch Tandem Niveau B1

Neben dem normalen Japanisch-Kurs hat Masayoshi Tsuchiya dieses Semester auch einen Skype-Tandemkurs angeboten. Dort hatten wir dann je zwei Tandempartner an der Tokio University of Foreign Studies mit denen wir einmal die Woche für je 45 Minuten geskypt haben. Immer im Wechsel auf Japanisch und Deutsch.

Dazu muss man sagen, dass die Japaner dort deutlich besser Deutsch sprachen als wir Japanisch. Das ist aber auch nicht verwunderlich, denn sich studieren Germanistik und üben damit jeden Tag Deutsch, während wir unseren Kurs nur einmal in der Woche für 2 Semesterwochenstunden hatten und daneben noch unser eigentliches Studium.

Aber gelohnt hat es sich sicherlich trotzdem, da man so doch noch etwas mehr Übung bekommen hat und gerade das Hörverstehen sich verbessert hat. Zudem hat man etwas über die Kultur gelernt.

Um Leistungspunkte für diesen Kurz zu erhalten, mussten wir zu den einzelnen Skype-Sessions jeweils ein Lerntagebuch anfertigen.

An dieser Stelle möchte ich all denen, die vom Erdbeben und Tsunami vor einer Woche betroffen sind, auch mein Beileid aussprechen. Zudem hoffe ich, dass es endlich gelingt die Reaktoren im Atomkraftwerk Fukushima wieder unter Kontrolle zu bringen und eine atomare Katastrophe zu verhindern. Meine Tandempartner sind seit einigen Wochen für ein Auslandssemester in Deutschland und von daher nicht direkt betroffen gewesen, aber gleichzeitig von ihren Familien in Japan getrennt.

Fazit

Insgesamt hat mir dieses Semester sehr gut gefallen. Obwohl ich wieder viel zu tun hatte (zum Teil natürlich durch die Menge der gewählten Kurse selbstverschuldet), hatte ich doch immer noch etwas Freizeit, in der ich sehr aktiv sein konnte. Dadurch, dass wir nur noch eine Veranstaltung hatten, die für alle Pflicht war, hatte man zudem viele Wahlmöglichkeiten und konnte sich die interessantesten Sachen raus picken. Wobei diese Pflichtveranstaltung, Neuronale Netze und Lernen, auch durchaus interessant war.

Nächstes Semester wird (mit ein paar anderen Wahlkursen) ähnlich aussehen. Dazu kommt natürlich noch die Bachelorarbeit, auf die ich mich – trotz der Arbeit – freue. In der Arbeit werde ich ein Brain-Computer Interface auf Basis von Event Related Potentials (z.B. P300) mit auditiven Stimuli entwickeln. Falls das jemanden etwas sagt. 😉

Zwei weitere Dinge gefielen mir während des Semester gut: Zum einen kam in den Vorlesungen jetzt endlich mal die Mathematik zur Anwendung, die man in den ersten Semestern gelernt hat. Somit wurde einem spätestens jetzt klar, warum man in den ersten Semestern so viel Mathe hatte.

Zum anderen gab es, zumindest bei den von mir gewählten Vorlesungen, relativ viele Querverbindungen. So tauchte beispielsweise Hauptkomponentenanalyse (PCA) gleich mehr oder weniger detailiert in drei Vorlesungen auf. Nämlich in Statistik, Datamining und Neuronale Netze. Es war interessant zu sehen, wie alles untereinander verknüpft ist und diese Verknüpfungen haben auch beim Lernen geholfen.

Zum Abschluss folgt dann noch wie gehabt eine kleine Linksammlung.

Nützliche Links

• Homepage zur Vorlesung Visuelle Aufmerksamkeit und Blickbewegungen
• Homepage zur Vorlesung Einführung in die Computergrafik
• Homepage zum Seminar Symbol Grounding
• Ein paar Volesungsmitschriften zu Neuronale Netze und Lernen
• Mein Bericht über das vierte Semester
• Mein Bericht über das dritte Semester
• Mein Bericht über das zweite Semester
• Mein Bericht über das erste Semester