Flashcards
Generative AI
Cards in this deck (11)
- 1A Mathematical Representation. A language model must have:- Syntactic Knowledge lets language model understand how words can be combined in meaningful sentences, phrases or utterances
- Linguistic knowledge encompasses all the information that is known about words and the relationships among them
- World Knowledge World knowledge is having an understanding and awareness of many different subjects and disciplines or knowledge domains - 2Why are LLMs are called Large Language Model and where do they get there data from ?Because its trained on a huge corpus of text data
Such data is obtained from available open data sources, common crawl datasets, and maybe augmented with specifically collated data from various sources such as books, encyclopedias, social media application usw. - 3In which 3 ways bias in LLMs may be introduced?- Bias in training data used
- Bias in the way the algorithm consumes data
- Bias in the way outputs are formulated - 4Which systemic/unintentional bias are there?- Belief Systems (Cultural faiths, religious faiths)
- Systemic Differences (Healthcare, Legal, Socio economic, political)
- Differences in opinions (social issues, climate change, international relations)
- Historical Imbalance (Marginalization of women, colonial mindset) - 5What is data poisoning?Intentionally introducing incorrect data during the model training
- 6Was bedeutet das Wort stochastisch?„Stochastic“ lässt sich auf Deutsch mit „stochastisch“ übersetzen. Der Begriff bezeichnet Prozesse oder Phänomene, die durch Zufall oder Wahrscheinlichkeiten bestimmt sind. In der Mathematik und Statistik wird er verwendet, um Systeme zu beschreiben, die nicht deterministisch, sondern probabilistisch sind – also von zufälligen Faktoren beeinflusst werden.
- 7Was sind autoregressive Modelle?Autoregressive Modelle in der KI
Definition: Autoregressive Modelle erzeugen Vorhersagen für das nächste Element in einer Sequenz, basierend auf den vorherigen Elementen.
Funktionsweise: Bei jedem Schritt wird das vorhergesagte Element als Eingabe für die Vorhersage des nächsten Elements genutzt.
Beispiele:
GPT-Modelle: Generieren Text, indem sie Wort für Wort vorhersagen, basierend auf den vorherigen Wörtern.
PixelCNN: Erzeugt Bilder Pixel für Pixel, indem es jedes Pixel basierend auf den vorherigen vorhersagt.
WaveNet: Erzeugt realistische Sprache und Audio, indem es jedes Sample nacheinander basierend auf den vorherigen vorhersagt.
Anwendungen: Textgenerierung, maschinelles Übersetzen, Bild- und Audioerzeugung.
Vorteil: Erlaubt es, neue Daten zu generieren, die der Struktur der Trainingsdaten entsprechen. - 8Welche Supervised Learning Types gibt es?Classification -> predicts discrete values
z.B Mail is spam or not, Shipment of goods delayed or not delayed, Property is high, medium or low valued
Regresssion -> predicts continuous numeric values
Predict the estimated delivery time for a pizza order, Selling price of a house in California, Credit limit of a new credit card applicant - 9Was ist historical Data?Historical Data in AI bezieht sich auf vergangene Daten, die zur Analyse, Modellierung oder zum Training von Künstlicher Intelligenz (KI) und Machine Learning (ML) Modellen verwendet werden. Diese Daten repräsentieren Informationen, die zu einem bestimmten Zeitpunkt in der Vergangenheit gesammelt wurden und die genutzt werden, um Muster, Trends oder Beziehungen zu erkennen, die für die Vorhersage oder Entscheidungsfindung in der Zukunft wichtig sind.
- 10Was ist Feature Engineering?Feature Engineering in der Künstlichen Intelligenz (AI) und im maschinellen Lernen (ML) bezieht sich auf den Prozess der Auswahl, Modifikation oder Erstellung neuer Features (Merkmale) aus Rohdaten, um die Leistung eines Modells zu verbessern. Einfach gesagt, geht es darum, aus den vorhandenen Daten die relevantesten Informationen zu extrahieren, die dem Algorithmus helfen, Muster zu erkennen und genauere Vorhersagen zu treffen.
Feature Engineering ist eine kritische und oft kreative Phase im maschinellen Lernen. Gute Features können die Leistung eines Modells erheblich steigern, während schlecht gewählte Features das Modell verwirren oder die Vorhersagegenauigkeit senken können. Der Prozess umfasst das Erstellen, Auswählen und Transformieren von Merkmalen, um die relevantesten und informativsten Daten für das Modell bereitzustellen. Ein gut ausgeführtes Feature Engineering kann den Unterschied zwischen einem mittelmäßigen und einem leistungsstarken Modell ausmachen. - 11Was ist Expert systems?Expertensysteme (auch Expert Systems genannt) sind ein wichtiger Bereich innerhalb der Künstlichen Intelligenz (AI), die darauf abzielen, menschliches Expertenwissen zu simulieren, um komplexe Entscheidungsfindungsprozesse zu unterstützen oder zu automatisieren. Ein Expertensystem ist eine Softwareanwendung, die auf einem umfassenden Wissensbestand und einer Reihe von Regeln basiert, um Lösungen für spezifische Probleme zu finden.
Was ist ein Expertensystem?
Ein Expertensystem im Bereich AI ist eine Computeranwendung, die Wissen und Entscheidungsfindung von menschlichen Experten in einem bestimmten Fachgebiet nachahmt. Es wird genutzt, um Probleme zu lösen, bei denen menschliche Expertise erforderlich ist, und bietet Lösungen basierend auf den Informationen und Regeln, die von Experten in diesem Bereich formuliert wurden.
Information
- Description
- Generative AI Flashcards on Generative AI, created by BLU BLU on 17/02/2025.
- Created by
- BLU BLU
- Views
- 0
- Rating