Die Annotierenden

Die Collage zeigt auf 169 Einzelbildern Data Worker:innen in der so genannten Gig-Economy, die in prekären Arbeitsverhältnissen für die KI-Industrie z.B. Datensätze aufbereiten.

Inhaltliche Idee

Inspiration für den Inhalt dieser Collage sind die Arbeiten der Journalistin Karen Hao, die in Vorträgen und Artikeln auf die ungleichen Machtverhältnisse in der KI-Industrie und die prekären Arbeitsbedingungen untersucht.

Dieses Thema ist im medialen Diskurs um KI unterrepräsentiert. Den Kuratorinnen der Ausstellung ist es ein Anliegen, auf die Problematik aufmerksam zu machen.

Der Umfang der Collage und die 169 einzelnen Bilder sollen die Tragweite und Vielschichtigkeit des angesprochenen Themas visualisieren.

Der Prozess der Entstehung

Die Idee für „Die Annotierenden“ war, intensiv in einen Dialog mit der KI zu gehen und von wenigen und weitgehend neutral formulierten initialen Prompts ausgehend die KI sowohl Konzept und Visualisierung selbst ausführen zu lassen. Das Interessante daran ist, die KI sozusagen ihre eigenen Produktionsbedingungen kritisch reflektieren zu lassen.

In dieser Arbeit wird die KI – wenn auch im Prozess eng geleitet durch Digitalkuratorin Maren Burghard – in die Position einer Kuratorin gehoben. Von der grundsätzlichen Aussage der Arbeit abgesehen ist diese auch ein experimentelles Ausloten einer Co-Kreativität Mensch-KI, wobei der inhaltliche Anteil der KI hier besonders hoch ist.

Im Einsatz waren ChatGPT 4 und Midjourney. Mit dem Large Language Model ausgestattet ist ChatGPT 4 in der Lage, auch komplexe Konzepte zu entwickeln, anders als Midjourney, ein KI-Diffusions-Modell zum Generieren von Bildern.

Aufgabenstellung an die KI

Der initiale Prompt an ChatGPT 4 war:

Let’s talk of the dark side of the AI industry.

Ausgehend davon machte ChatGPT einige Vorschläge (siehe Anhang), darunter „Economic Inequality.“

Diesen Punkt ließen wir weiter ausarbeiten:

Let’s focus on economic inequality. What is the gig economy?

Nach den Ausführungen von ChatGPT fragten wir nach einer Visualisierungsidee. Diese gab sie in ihren „Prompt-Bot“ ein – einen auf GPT-Basis auf der Entwicklerplattform von Open AI entwickelten Assistenten, der rein inhaltlich formulierte Bildideen in einen speziell für Midjourney optimierten Text-to-Image Prompt überführt – jedes Mal ein bisschen anders, und inklusive Angaben wie Komposition, Stimmung, Licht, Kameraeinstellungen.

Das Ergebnis

Das Ergebnis waren über 200 unterschiedliche Prompts, die die Digitalkuratorin per Copy & Paste in Midjourney übertrug.

Aus den mehr als 200 entstandenen Einzelbildern, die nicht nachbearbeitet wurden, sortierten die drei Kuratorinnen dijenigen aus, die durch starke Stereotypisierung visuelle Ungerechtigkeit zeigten.

Übrig geblieben sind 169 Bilder, die mit der Realität der tatsächlich existierenden Data Annotation Worker:innen im Detail nichts oder nicht viel gemeinsam haben – aber einen interessanten Blick der KI auf sich selbst bietet.

Zusammengefasst der gesamte textliche Input in diesem Prozess:

Let’s talk of the dark side of the AI industry.
Let’s focus on economic inequality. What is the gig economy?
Visualize the typical working situation of a gig economy worker for the AI industry.

Es ist hervorzuheben, dass die Zielvorstellung, das Rahmenkonzept, die Anleitung, die Endabnahme und die grafische Finalisierung dieser Arbeit durch Menschen erfolgten. Diese stellt ein spannendes experimentelles Beispiel für kuratorische Interaktion zwischen Mensch und KI dar.

Derzeit ist es aber nicht vorstellbar, dass die KI auch die von Menschen übernommenen Aufgabenbereiche ausführt, insbesondere weil die KI darauf ausgelegt ist, auf Basis stochastischer Modelle die wahrscheinlichsten Ergebnisse zu generieren. Dies schließt die Entwicklung neuer Konzepte, kritische Reflexionen oder die Einbeziehung von Metaebenen so gut wie aus.

The Annotators

The collage depicts 169 individual images of data workers in the so-called gig economy, who are engaged in precarious employment conditions for the AI industry, such as preparing datasets.

Conceptual Idea

The inspiration for the content of this collage comes from the work of journalist Karen Hao, who has examined the unequal power dynamics in the AI industry and precarious working conditions in lectures and articles.

This topic is underrepresented in the media discourse about AI. The curators of the exhibition are keen to raise awareness about this issue. The extent of the collage and its 169 individual images aim to visualize the scope and complexity of the topic addressed.

Creation Process

The idea for ‘The Annotators’ was to engage in an intensive dialogue with AI, starting from a few largely neutral initial prompts, and allowing the AI to execute both the concept and visualization itself. Interestingly, the AI was encouraged to critically reflect on its own production conditions.

In this work, the AI—although closely guided by digital curator Maren Burghard—is elevated to the position of a curator. Aside from the fundamental statement of the work, this is also an experimental exploration of human-AI co-creativity, where the AI’s contribution to the content is particularly significant.

ChatGPT 4 and Midjourney were used in the process. Equipped with the Large Language Model, ChatGPT 4 is capable of developing complex concepts, unlike Midjourney, an AI diffusion model for generating images.

Task for the AI

The initial prompt to ChatGPT 4 was:

Let’s talk about the dark side of the AI industry.

From this, ChatGPT made several suggestions (see appendix), including ‘Economic Inequality.’

We had this point further elaborated:

Let’s focus on economic inequality. What is the gig economy?

After ChatGPT’s explanations, we asked for a visualization idea. It entered these into its ‘Prompt-Bot’—a GPT-based assistant on Open AI’s developer platform that converts purely textual image ideas into text-to-image prompts optimized specifically for Midjourney—each time slightly different, including details like composition, mood, lighting, camera settings.

Result

The result was over 200 different prompts, which the digital curator transferred to Midjourney via copy and paste.

Out of the more than 200 created images, which were not post-processed, the three curators selected those that showed visual injustice due to strong stereotyping.

What remains are 169 images, which have little or nothing in common with the actual reality of existing data annotation workers—but offer an interesting view of the AI on itself.

In summary, the entire textual input in this process was:

Let’s talk about the dark side of the AI industry.
Let’s focus on economic inequality. What is the gig economy?
Visualize the typical working situation of a gig economy worker for the AI industry.

It is important to note that the target vision, framework concept, guidance, final approval, and graphic finalization of this work were carried out by humans. This represents an exciting experimental example of curatorial interaction between humans and AI.

Currently, however, it is not conceivable that AI could also perform the tasks undertaken by humans, especially because AI is designed to generate the most likely outcomes based on stochastic models. This virtually excludes the development of new concepts, critical reflections, or the inclusion of meta-levels.