Deine Familien-App hat gerade KI bekommen. Was passiert mit dem Foto, das du ihr schickst?

Geschrieben am 12. August 2026 von den Machern von Somiya, das KI-Funktionen hat und deshalb all das über sich selbst beantworten muss.

Jeder Familienorganizer baut gerade KI ein, und das Versprechen ist überall dasselbe: Hör auf zu tippen, schick einfach den Schulbrief. Es ist ein wirklich gutes Versprechen — die manuelle Eingabe ist das, was diese Apps umbringt — und wir haben es auch gebaut.

Was fast niemand veröffentlicht, ist, was das Foto danach tut. Diese Seite fehlt bei den meisten dieser Produkte, also hier unsere: was mit diesem Bild wirklich passiert, die fünf Fragen, die du jeder App stellen solltest, die das anbietet, wo du jede Antwort findest, ohne irgendjemandem aufs Wort zu glauben, und unsere eigenen Antworten in voller Länge.

Was „schick uns ein Foto“ tatsächlich bedeutet

Wenn du einen Schulbrief fotografierst und eine App daraus einen Termin macht, passiert ungefähr Folgendes:

  1. Das Bild verlässt dein Handy und geht an die Server der App. (Die Erkennung auf dem Gerät gibt es, ist aber selten, und Apps, die es tun, sagen es laut, weil es teuer zu bauen ist.)
  2. Die App schickt es an ein großes Sprachmodell — fast immer das von jemand anderem: Anthropic, OpenAI, Google. Das ist eine zweite Firma, in einem zweiten Rechtsraum, unter einem Vertrag, bei dem du keine Partei bist.
  3. Das Modell gibt Text zurück: einen Titel, ein Datum, eine Person.
  4. Etwas erzeugt daraus einen Kalendereintrag.

Jede interessante Frage liegt in Schritt 2 und 4. Schritt 2 entscheidet, wer sonst den Namen deines Kindes und deine Wohnadresse sieht. Schritt 4 entscheidet, was passiert, wenn der Brief etwas enthält, dem das Modell nicht hätte folgen dürfen.

Die fünf Fragen, und wo die Antwort steht

Das lässt sich bei jeder App in etwa zehn Minuten prüfen, auch bei unserer. Wir haben bewusst aufgeschrieben, wo du nachsehen musst, statt eine Tabelle mit den Antworten der Konkurrenz zu liefern — der Grund steht in der Anmerkung am Ende.

1. Wird der Inhalt gespeichert, und wie lange?

Der Fachbegriff ist Zero Data Retention: Der Modellanbieter verarbeitet die Anfrage und behält nichts. Ohne sie kann dein Inhalt eine Zeit lang in den Logs des Anbieters liegen — oft 30 Tage — zur Missbrauchserkennung.

Wo du nachsiehst: im KI- oder „Wie wir deine Daten verwenden“-Abschnitt der Datenschutzerklärung. Beschreibt sie die Speicherdauer für die eigene Datenbank der App, schweigt aber zum Modellanbieter, ist dieses Schweigen das Ergebnis.

2. Wird damit trainiert?

Verbraucher-KI-Produkte trainieren oft standardmäßig mit Nutzerinhalten; Geschäfts-API-Verträge in der Regel nicht, aber „in der Regel“ trägt in diesem Satz viel Gewicht. Das sind zwei verschiedene Verträge, und eine App kann bei einem von beiden sein.

Wo du nachsiehst: ein Satz, der Training ausdrücklich nennt. „Wir verkaufen deine Daten nicht“ ist nicht dieselbe Aussage und wird oft an ihrer Stelle verwendet.

3. Wird der KI-Anbieter als Unterauftragsverarbeiter genannt?

Nach der DSGVO ist eine Firma, die Daten im Auftrag einer App verarbeitet, ein Unterauftragsverarbeiter und sollte aufgeführt sein. Eine namentliche Liste ist ein echtes Signal: Jemand hat die rechtliche Arbeit gemacht, und du kannst die Bedingungen der zweiten Firma selbst prüfen.

Wo du nachsiehst: eine Tabelle oder Liste der Unterauftragsverarbeiter in der Datenschutzerklärung. Eine App mit KI-Funktionen und ohne KI-Anbieter in dieser Liste hat einen Widerspruch, nach dem du fragen solltest.

4. Wo findet die Verarbeitung physisch statt?

Beachte, dass das eine andere Frage ist als die, wo die Firma sitzt. Eine europäische Firma kann auf US-Infrastruktur speichern und verarbeiten und tut das häufig — FamilyWalls eigene Richtlinie etwa sagt, personenbezogene Daten dürften „im EWR, in den USA und in jedem anderen Land“ gespeichert und verarbeitet werden, und es ist eine französische Firma. Wenn dir der Rechtsraum wichtig ist, ist die Adresse der Firma nicht die Antwort darauf.

Wo du nachsiehst: der Abschnitt „Internationale Datenübermittlung“ und jede Erwähnung von Standardvertragsklauseln — das sind die Mechanismen, um Daten aus der EU hinauszubringen, ihr Vorkommen zeigt also, dass Daten wandern.

5. Was verhindert, dass der Brief dem Modell Anweisungen gibt?

Das ist die Frage, die fast niemand stellt, und die interessanteste. Siehe unten.

Das Risiko, das speziell mit dem Lesen von Inhalten zu tun hat: Prompt Injection

Ein Sprachmodell, das ein Dokument liest, kann nicht zuverlässig zwischen Inhalt und Anweisungen im Inhalt unterscheiden. Ein Flyer, eine weitergeleitete E-Mail oder eine eingefügte Nachricht kann also eine Zeile enthalten, die sich an das Modell richtet statt an dich — und das Modell kann ihr folgen. Das hat einen Namen, Prompt Injection, es steht ganz oben auf der OWASP-Liste der Risiken von Sprachmodellen, und hier ist der Teil, den die Branche nicht gern laut sagt:

Es gibt keine vollständige Lösung. Nicht bei uns, nicht bei irgendwem. Jede App, die dir sagt, ihre KI sei dagegen immun, sagt dir etwas Unwahres oder etwas, das sie nicht geprüft hat.

Was man tun kann, ist, einen erfolgreichen Angriff langweilig zu machen. Der Schaden einer Injection ist proportional zu dem, was das Modell tun darf. Kann das Modell E-Mails senden, APIs aufrufen oder in deine Daten schreiben, ist eine Injection ein echter Vorfall. Kann das Modell nur ein kleines getipptes Formular ausfüllen, das ein Mensch dann bestätigt, ist der schlimmste Fall ein falscher Entwurf, den du ablehnst.

Die nützliche Frage an eine Familien-App ist also nicht „ist deine KI vor Prompt Injection sicher“ — die ehrliche Antwort ist nein —, sondern „was kann deine KI eigentlich tun?“ Je enger diese Antwort, desto weniger gewinnt ein Angreifer, wenn er hineinkommt.

Somiya im App Store laden →

Unsere Antworten, in voller Länge

Gemessen an denselben fünf Fragen, plus dem Design, das die fünfte begrenzt.

FrageSomiya
Speicherung beim ModellanbieterZero-Data-Retention-Vereinbarung mit Anthropic — zur Erkennung gesendete Inhalte werden über die flüchtige Verarbeitung hinaus nicht gespeichert
Training mit deinen InhaltenNein. Durch dieselbe Vereinbarung ausgeschlossen
Als Unterauftragsverarbeiter genanntJa — Anthropic steht in der Datenschutzerklärung, zusammen mit den übrigen
Wo der Rest läuftHetzner (Deutschland) und Scaleway (Frankreich); jeder Unterauftragsverarbeiter ist in der Datenschutzerklärung genannt
Was die KI tun kannEinen getippten Entwurf zurückgeben. Sie kann nicht in die Daten deiner Familie schreiben, keine Werkzeuge aufrufen, nichts senden und keine URL abrufen
Was von einer Erfassung gespeichert wirdNur die Felder, die du bestätigst. Das Foto selbst wird nie gespeichert — nicht auf unseren Servern, nicht im Cache des Geräts

Vier Designregeln machen die letzten beiden wahr, und wir behandeln sie als Invarianten, nicht als Vorlieben:

Es gibt außerdem eine unspektakuläre Schicht, die wichtiger ist, als sie klingt: Erlaubnislisten für Dateitypen, Größenobergrenzen, Ratenbegrenzungen und eine monatliche Ausgabengrenze. Die gibt es, weil feindlicher Inhalt auch einfach Geld kosten kann.

Warum es hier keine Vergleichstabelle gibt

Dir ist aufgefallen, dass diese Seite dir sagt, wo du nachsehen sollst, statt aufzulisten, was die Richtlinien aller anderen sagen. Dafür gibt es zwei Gründe, und der zweite ist der eigentliche.

Erstens ändern sich diese Bedingungen unbemerkt. Eine Tabelle mit den KI-Klauseln der Konkurrenz ist nach Monaten veraltet, und wir würden es als Letzte merken, weil niemand schreibt, um dir zu sagen, dass deine Kritik an ihm abgelaufen ist.

Zweitens: Bei der Recherche zu dieser Seite konnten wir die Richtlinienseiten mehrerer dieser Apps gar nicht abrufen. Wir beschreiben den Umgang eines Wettbewerbers mit Daten nicht anhand von Suchschnipseln und Bewertungsseiten — so landet ein selbstsicherer, falscher Satz über das Geschäft von jemandem mit unserem Namen im Internet. Wo wir auf dieser Seite eine andere Firma zitieren, zitieren wir Text, den wir auf deren eigener Seite gelesen haben, und datieren ihn, wie bei der FamilyWall-Zeile oben. Wo wir ihn nicht lesen konnten, sagen wir, dass du ihn selbst lesen sollst, und das meinen wir ernst.

Fragen

Ist es sicherer, eine Familien-App ganz ohne KI zu nutzen?

Gegen genau dieses Risiko ja — gegen ein Formular, das du selbst getippt hast, kann keine Prompt Injection laufen. Es ist eine echte Option und verdient ehrliche Überlegung. Dafür tauschst du die manuelle Eingabe ein, und genau sie führt erfahrungsgemäß dazu, dass die App aufgegeben wird. Jede andere Frage auf dieser Seite — Speicherdauer, Rechtsraum, Training, Export — gilt für eine App ohne KI genauso.

Liest Somiya die Daten meiner Familie, um das Produkt zu verbessern?

Nein. Familieninhalte werden nicht für Training, Analysen oder Werbung verwendet, und in der App steckt kein Analytics-SDK. Wir messen den Weg von der Anmeldung bis zum Abo und lesen unser eigenes Webserver-Log; das ist in der Datenschutzerklärung beschrieben.

Kann ich stattdessen meinen eigenen KI-Assistenten anbinden?

Ja, und für ihn gilt dieselbe Regel. Somiya hat einen MCP-Server: Dein Assistent liest den Familienkalender und die Aufgaben über ein Token, das du erzeugst und widerrufen kannst, und wenn er etwas hinzufügen will, legt er einen Vorschlag an, den du in der App bestätigst. Er schreibt nie selbst in die Daten deiner Familie. Dieselbe Überlegung wie oben entscheidet das — ein Assistent, der unvertrauenswürdige Inhalte liest, sollte keinen Löschknopf in der Hand halten.

Was, wenn ich die KI-Funktionen nicht nutzen will?

Dann nutz sie nicht — es wird nichts irgendwohin gesendet, solange du keine Erfassung auslöst. Einen Termin oder eine Aufgabe von Hand anzulegen, kommt nirgends in die Nähe eines Modells, und die App ist so voll nutzbar.

Nutzt ihr KI, um irgendetwas über meine Familie zu entscheiden?

Nein. Sie extrahiert und klassifiziert, und ein Mensch bestätigt das Ergebnis. Nichts erstellt ein Profil von dir, bewertet dich oder trifft eine automatisierte Entscheidung mit rechtlicher oder ähnlich erheblicher Wirkung.


Somiya ist ein Familienorganizer, gebaut so, wie diese Seite es beschreibt: Fotografier es, und es wird zur richtigen Aufgabe für die richtige Person, ohne dass etwas gespeichert wird, das du nicht bestätigt hast. Auf beiden Seiten im Ruhezustand verschlüsselt, keine Werbung und keine Tracker. 5,99 € im Monat oder 39,99 € im Jahr (22,99 € im ersten Jahr) für die ganze Familie, 14 Tage kostenlose Testphase.

Somiya im App Store laden →

Wenn hier etwas falsch ist oder eine unserer Aussagen deiner Prüfung nicht standhält, möchten wir das wirklich wissen: hello@somiya.app.