Top 6 Open-Source-Tools zur Erkennung sensibler Daten
Die folgenden Tools werden auf der Grundlage der GitHub-Aktivität ausgewählt und nach der Anzahl der GitHub-Sterne in absteigender Reihenfolge sortiert. Sie decken die wichtigsten Anwendungsfälle für die Erkennung sensibler Daten ab: Metadatenkatalogisierung mit Datenherkunft, agentenloses Scannen und API-basierte Erkennung von PII, PCI-Daten und Anmeldeinformationen im Ruhezustand.
Eine Sache, die vor der Liste klar gesagt werden sollte: Diese sechs Tools machen nicht alle dasselbe, und einige der Namen auf dieser Liste sind im engeren Sinne keine Tools zur Erkennung sensibler Daten.
DataHub, Apache Atlas und Marquez sind Plattformen für Metadatenkataloge und Datenherkunft; sie helfen Ihnen zu verstehen, welche Daten Sie haben und wohin sie fließen, was eine Voraussetzung für die Erkennung ist, aber nicht dasselbe wie das Scannen nach PII.
- OpenDLP ist das einzige Tool hier, das speziell für das Auffinden sensibler Daten im Ruhezustand entwickelt wurde.
- Piiano Vault ist ein Speichersystem für Daten, von denen Sie bereits wissen, dass sie sensibel sind.
- Nightfall ist eine kommerzielle Erkennungs-Engine mit Open-Source-Scanner-Skripten, die sie umgeben.
Jedes passt zu einer anderen Phase des Datensicherheitsproblems.
Mehr erfahren: Tools zur Erkennung und Klassifizierung sensibler Daten, DLP-Software.
Administrative Funktionen
Tool | Grafisches Dashboard | Suchbasiert | Datenherkunft | Föderiertes Datenbanksystem |
|---|---|---|---|---|
DataHub | ✅ | ✅ | ✅ | ✅ |
Apache – Atlas | ✅ | ✅ | ✅ | ❌ |
Marquez | ✅ | ✅ | ✅ | Nicht angegeben. |
OpenDLP | ❌ | ❌ | ❌ | ❌ |
Piiano Vault – ReDiscovery | ❌ | Nicht angegeben. | ❌ | ❌ |
Nightfall KI – Sensitive data scanner | ✅ | ✅ | ❌ | ❌ |
Funktionsbeschreibungen:
- Grafisches Dashboard – ermöglicht die Visualisierung Ihrer Datenfunde.
- Suchbasierte Funktionalität – ermöglicht die Suche nach Datenbeständen.
- Datenherkunft – ermöglicht Benutzern zu visualisieren, wie Daten im Laufe der Zeit in einem System erzeugt, transformiert, übertragen und verwendet werden.
- Föderiertes Datenbanksystem – bildet mehrere autonome Datenbanksysteme in einer einzigen föderierten Datenbank ab.
Diese Funktionalität (insbesondere Datenherkunft und Suchfunktionen) ermöglicht es Unternehmen:
- Den Speicherort ihrer personenbezogenen Daten (PII), Zahlungskartenindustrie-Daten (PCI-Daten) usw. aufdecken, die über mehrere Datenbanken, Apps und Benutzerendpunkte verteilt gespeichert sind.
- Die branchenüblichen Datenschutz- und Privatsphärestandards wie die Datenschutz-Grundverordnung (DSGVO) und den California Consumer Privacy Act (CCPA) einhalten.
Datensicherheitsfunktionen
Funktionsbeschreibungen:
- Datenmaskierung– ermöglicht das Verbergen von Daten, indem ihre ursprünglichen Buchstaben und Zahlen verändert werden, sodass sie für unbefugte Eindringlinge keinen Wert haben, während sie für autorisierte Mitarbeiter weiterhin nutzbar bleiben.
- Verhinderung von Datenverlust (DLP) – erkennt potenzielle Datenschutzverletzungen und verhindert sie durch Blockieren sensibler Daten.
Kategorien und GitHub-Sterne
Toolauswahl & Sortierung:
- Anzahl der Bewertungen: 10+ GitHub-Sterne.
- Update-Veröffentlichung: Mindestens ein Update wurde in der letzten Woche veröffentlicht (Stand November 2024).
- Sortierung: Die Tools werden nach GitHub-Sternen in absteigender Reihenfolge sortiert.
DataHub
DataHub ist eine Open-Source-Metadatenplattform für Datenentdeckung, Observability und Governance, die ursprünglich von LinkedIn entwickelt wurde und jetzt von Acryl Data sowohl als Open-Source-Projekt (Apache 2.0) als auch als kommerzielles Cloud-Angebot gepflegt wird. Es ist das mit Abstand am aktivsten entwickelte Tool auf dieser Liste: 3.000+ Organisationen betreiben DataHub weltweit in Produktion, darunter Hyperscale-Technologieunternehmen, regulierte Finanzinstitute und Gesundheitsdienstleister.
Was DataHub tatsächlich für die Erkennung sensibler Daten leistet
DataHub ist ein Metadatenkatalog, kein Scanner. Es sagt Ihnen, welche Datenbestände in Ihrem Stack vorhanden sind, wem sie gehören, wie sie durch Pipelines fließen und wie ihre Qualität aussieht, aber es durchsucht keine Dateisysteme oder Datenbanken nach PII-Mustern, wie OpenDLP es tut. Der Anwendungsfall für die Datenentdeckung, den es löst, lautet: „Wir haben 200 Datenquellen und wissen nicht, was darin enthalten ist oder wer sie nutzt.“ Der Anwendungsfall für die Erkennung sensibler Daten, den es nicht löst, lautet: „Wir müssen alle Dateien mit Sozialversicherungsnummern auf unseren Windows-Endpunkten finden.“
Wichtige Funktionen:
- Datenherkunft auf Spaltenebene: Verfolgt den Datenfluss von der Quelle bis zur Nutzung über Plattformen hinweg. Die neue Unterstützung im Jahr 2026 umfasst Snowflake-dynamische Tabellen, Sigma, das zurück zu den Quell-Warehouses verknüpft wird, Glue und Iceberg, Athena-Zuordnung zum Katalog anstelle roher S3-Pfade und Power BI über den offiziellen M-Query-Parser von Microsoft.
- 90+ native Konnektoren: Snowflake, BigQuery, Redshift, Hive, Athena, Postgres, MySQL, SQL Server, Looker, Power BI, Tableau, Okta, LDAP, S3, Delta Lake und andere. Zu den im 2. Quartal 2026 neu ausgelieferten Konnektoren gehören Airbyte, Matillion, dltHub, Informatica und ThoughtSpot. In Entwicklung: Monte Carlo, SAP Datasphere, AWS QuickSight und Streaming-Konnektoren für Firehose und Kinesis.
- MCP-Server-Unterstützung: Native Unterstützung für KI-Agenten über MCP, LLM-Integrationen und Kontextmanagement, sodass KI-Assistenten DataHub-Metadaten direkt abfragen können, ohne die Tools zu wechseln.
- Google Cloud vertiefte Integration (April 2026): DataHub erweiterte seinen Google Cloud Knowledge Catalog-Konnektor, um Gemini Enterprise Agent Platform, Bigtable, Spanner, Pub/Sub und Dataproc Metastore neben BigQuery und Google Cloud Storage zu unterstützen.
Überlegung: Die Architektur von DataHub betreibt mehrere miteinander verbundene Dienste. Produktionsbereitstellungen erfordern in der Regel Kubernetes. Die Komplexität der Einrichtung ist der in der Community am häufigsten genannte Schmerzpunkt, und sie ist mit der Hinzufügung von KI-Funktionen nicht einfacher geworden. Wenn Ihr Team keine Kubernetes-Erfahrung hat, planen Sie Zeit für die Lernkurve ein, bevor Sie sich für eine Produktionsausrollung entscheiden.
Apache – Atlas
Apache Atlas ist eine Open-Source-Plattform für Metadatenverwaltung und Governance, die hauptsächlich für Hadoop- und Big-Data-Ökosysteme entwickelt wurde. Es unterstützt Klassifizierung, Nachverfolgung der Datenherkunft und Suche über Datenbestände in Umgebungen, die auf Hive, HBase, Kafka, Spark, Sqoop und Storm aufbauen.
Wichtige Funktionen
- Dynamische Klassifizierung: Atlas ermöglicht die Erstellung benutzerdefinierter Klassifizierungen wie PII, EXPIRES_ON, DATA_QUALITY und SENSITIVE. Diese können auf Entitäts- oder Attributsebene angewendet werden, was nützlich ist, um sensible Spalten in Hive-Tabellen zu kennzeichnen, ohne einen separaten Katalog aufzubauen.
- Metadatentypen: Die Plattform bietet vordefinierte Metadatentypen für Hadoop- und Nicht-Hadoop-Umgebungen, einschließlich HBase, Hive, Sqoop, Kafka und Storm.
- SQL-ähnliche Abfragesprache (DSL): Atlas unterstützt eine domänenspezifische Sprache, die SQL-ähnliche Abfragefunktionen für die Suche nach Entitäten bereitstellt. Nützlich für Analysten, die mit SQL vertraut sind und den Metadatenkatalog abfragen müssen, ohne eine neue Syntax zu lernen.
- Integration mit externen Tools: Apache Hive, Apache Spark, Kafka und Presto, wodurch es für Big-Data-Umgebungen geeignet ist.
Überlegungen:
- Die Konfiguration von Atlas in einer Multi-Cloud-Umgebung ist komplex, insbesondere bei der Überbrückung von AWS-, Azure- und Databricks-APIs. Atlas verfügt nicht über native Konnektoren für diese Plattformen. Zusätzliche Konfiguration ist erforderlich, um die Datenherkunft von AWS Redshift oder Azure Synapse aufzuzeichnen.
- Cloud-native Katalogdienste (z. B. AWS Glue) bieten möglicherweise eine Datenherkunftsverfolgung mit geringerem Overhead für Teams, die sich bereits auf einen einzigen Cloud-Anbieter festgelegt haben.
- Atlas eignet sich am besten für Unternehmen, die Hadoop, Spark und Hive in großem Maßstab betreiben. Teams ohne einen Hadoop-zentrierten Stack werden feststellen, dass seine Architektur unnötige Komplexität mit sich bringt.
Marquez
Marquez ist ein Open-Source-Metadatendienst zum Sammeln, Aggregieren und Visualisieren von Metadaten des Datenökosystems. Es wurde bei WeWork entwickelt und 2019 als Open Source veröffentlicht. Marquez ist ein Projekt der LF KI & Data Foundation in der Graduierungsphase, das im September 2023 graduiert wurde.
Was Marquez tatsächlich leistet
Marquez konzentriert sich ausschließlich auf die Nachverfolgung der Datenherkunft, nicht auf die Erkennung. Es ist die Referenzimplementierung des OpenLineage-Standards, der offenen Spezifikation dafür, wie Pipelines Herkunftsmetadaten melden. Wenn Sie Apache Airflow, Apache Spark, Apache Flink, dbt oder Dagster verwenden, können diese Tools OpenLineage-Ereignisse ausgeben, die Marquez sammelt und visualisiert. Das Ergebnis ist ein Datenherkunftsdiagramm, das zeigt, wie Datensätze durch Ihre Pipelines fließen, welche Jobs sie erzeugt haben und wie die Läufe in der Vergangenheit aussehen.
Das macht Marquez nützlich, um zu verstehen, was kaputt geht, wenn sich ein vorgelagerter Datensatz ändert, Pipeline-Fehler durch Nachverfolgung der Datenprovenienz zu debuggen und zu wissen, welche Jobs einen bestimmten Datensatz konsumieren, bevor Sie ihn verwerfen. Es ist kein Tool zum Scannen von Endpunkten nach PII.
Hinweis zur Community-Aktivität
Anfang 2026 sind offene Issues auf Marquez' GitHub aus dem Mai 2025 noch nicht bearbeitet. Die Commit-Geschwindigkeit hat im Vergleich zu DataHub und OpenMetadata nachgelassen. Wenn Sie einen schnelllebigen Katalog mit reaktionsschnellen Maintainern benötigen, ist Marquez die langsamere Option. Wenn Sie einen stabilen, leichtgewichtigen Herkunftsspeicher benötigen, der den OpenLineage-Standard ohne den Infrastruktur-Overhead von DataHub implementiert, erledigt Marquez diese Aufgabe weiterhin gut.
Wichtige Funktionen:
- OpenLineage-Referenzimplementierung: Funktioniert sofort mit jeder OpenLineage-Integration. Das ist Marquez' stärkstes Unterscheidungsmerkmal: Kein anderes Tool auf dieser Liste ist die kanonische Implementierung des Herkunftsstandards.
- Visualisierung des Datenherkunftsdiagramms: Die Web-UI bietet eine interaktive Ansicht, wie Datensätze durch Workflows verbunden und transformiert werden. Nützlich, um Pipeline-Abhängigkeiten zu verstehen und Fehler zu verfolgen.
- REST-API und GraphQL: Die Herkunfts-API ermöglicht die Automatisierung von Aufgaben wie Backfills und Ursachenanalysen, indem der Abhängigkeitsbaum programmatisch durchlaufen wird. Der GraphQL-Endpunkt befindet sich derzeit in der Beta-Phase.
- Geringer Infrastruktur-Overhead: Marquez läuft auf PostgreSQL und benötigt im Gegensatz zu DataHub oder Atlas kein Kafka, Elasticsearch oder eine Graphdatenbank. Für Teams, die eine Nachverfolgung der Datenherkunft ohne komplexen Stack wünschen, ist diese Einfachheit der springende Punkt.
Beispiel-Workflow: Um Herkunftsmetadaten zu untersuchen, navigieren Sie zur Marquez-UI und suchen Sie im Suchfeld nach einem Job (z. B. etl_delivery_7_days). Im Ausgabedatensatz des Jobs können Sie den Datensatznamen, das Schema, die Beschreibung und die vorgelagerten Eingaben anzeigen. Das Datenherkunftsdiagramm zeigt alles, was in diesen Datensatz einfließt oder von ihm abhängt.
Piiano Vault – ReDiscovery
Piiano Vault ist ein Datenschutz-Tresor zum Speichern und Sichern sensibler personenbezogener Daten in Ihrer eigenen Cloud-Umgebung. Es ist kein Datenentdeckungs-Scanner; dieser Unterschied ist wichtig genug, um ihn klar zu benennen, bevor beschrieben wird, was es tut.
Der Anwendungsfall, den Vault löst, lautet: „Wir wissen, welche Felder sensibel sind (Kreditkartennummern, Sozialversicherungsnummern, Namen, E-Mails, Telefonnummern), und wir möchten sie aus unseren Anwendungsdatenbanken in einen zentralen, zugriffskontrollierten Speicher verschieben.“ Vault wird zum maßgeblichen Speicher für diese Felder. Die Anwendungsdatenbank enthält einen Token oder eine Referenz; der tatsächliche Wert befindet sich in Vault. Dies ist ein Datenschutz-Architekturmuster, kein Erkennungstool.
Vault wird über Docker oder Kubernetes bereitgestellt (Helm-Charts verfügbar). Es gibt SDKs für Python (Django ORM), TypeScript, Java und Go. Das Repository vault-releases wurde zuletzt im August 2025 aktualisiert.
Nightfall
Nightfall ist eine kommerzielle KI-native DLP-Plattform. Die GitHub-Repositories enthalten Open-Source-Scanner-Skripte (Apache 2.0), die kommerzielle Erkennungs-API von Nightfall umhüllen. Dieser Unterschied ist für die „Open-Source“-Rahmung wichtig: Die Scanner-Skripte sind Open Source, aber die Erkennungs-Engine, die tatsächlich PII, Anmeldeinformationen und Zahlungsdaten identifiziert, ist der proprietäre Dienst von Nightfall. Das Ausführen von Scans erfordert einen Nightfall-API-Schlüssel und ruft die kommerzielle API von Nightfall auf. Der free-Tarif ermöglicht bis zu 100 Scans pro Monat für öffentliche und private Repositories.
Dies ist das leistungsfähigste Tool auf dieser Liste für die Erkennung sensibler Daten in modernen Umgebungen. Nightfall deckt GitHub-Repositories, S3-Buckets, Salesforce-Exporte und ähnliche Quellen ab, ist jedoch nicht vollständig Open Source. Wenn Ihre Anforderung eine Null-Abhängigkeit von einem kommerziellen Anbieter ist, erfüllt Nightfall dies nicht.
Open-Source-Scanner-Funktionen (free-Tarif):
- Scannt den gesamten Commit-Verlauf öffentlicher und privater Repositories.
- Erkennt Anmeldeinformationen, Geheimnisse, PII und Kreditkartennummern mithilfe der ML-Erkennungsmodelle von Nightfall.
- Führt bis zu 100 Scans pro Monat kostenlos aus.
- Sendet Warnmeldungen an Slack, wenn Verstöße erkannt werden.
- Überträgt Ergebnisse an ein SIEM, ein Reporting-Tool oder einen Webhook-Endpunkt.
Besonderes Merkmal: Nightfall kann Warnmeldungen an Slack senden, wenn Verstöße erkannt werden, und Ergebnisse an ein SIEM, ein Reporting-Tool oder einen Webhook-Endpunkt übertragen.
Beispiel-Anwendungsfall: Scannen Sie ein Salesforce-Backup, um sensible Daten im Ruhezustand zu erkennen. Der Scanner (1) übermittelt Sicherungsdateien zur Überprüfung an die API von Nightfall, (2) führt einen lokalen Webhook-Server aus, um Ergebnisse zu empfangen, und (3) exportiert die Ergebnisse in eine CSV-Datei.
Weiterführende Literatur
Diese Forschung zitieren
Wählen Sie das Format, das zu Ihrem Veröffentlichungsort passt. Wenn Sie die Link-Version in Ihr CMS einfügen, bleibt der Backlink erhalten.
@misc{dilmegani2026,
author = {Dilmegani, Cem and Sezer, Sena},
title = {{Top 6 Open-Source-Tools zur Erkennung sensibler Daten }},
year = {2026},
month = aug,
howpublished = {\url{https://aimultiple.com/open-source-sensitive-data-discovery}},
note = {AIMultiple. Abgerufen am 21. August 2026}
}Ergebnisse und Zeitstempel von 18 Datenpunkten. Laden Sie die in diesem Artikel verwendeten Daten als ZIP-Datei herunter, die 3 CSV-Dateien enthält.
Cems Arbeit wurde von führenden globalen Publikationen zitiert, darunter Business Insider, Forbes, Washington Post, globalen Unternehmen wie Deloitte, HPE und NGOs wie dem World Economic Forum sowie supranationalen Organisationen wie der European Commission.
Während seiner Karriere war Cem als Tech-Berater, Tech-Einkäufer und Tech-Unternehmer tätig. Er beriet Unternehmen über ein Jahrzehnt lang bei McKinsey & Company und Altman Solon in Technologieentscheidungen. Er veröffentlichte auch einen McKinsey-Bericht zur Digitalisierung.
Er leitete die Technologiestrategie und Beschaffung eines Telekommunikationsunternehmens und berichtete dabei direkt an den CEO. Zudem führte er das kommerzielle Wachstum des Deep-Tech-Unternehmens Hypatos an, das innerhalb von 2 Jahren von null auf einen siebenstelligen jährlich wiederkehrenden Umsatz und eine neunstellige Bewertung anwuchs. Cems Arbeit bei Hypatos wurde von führenden Technologiepublikationen wie TechCrunch und Business Insider aufgegriffen.
Cem spricht regelmäßig auf internationalen Technologiekonferenzen. Er schloss sein Studium an der Bogazici University als Computer-Ingenieur ab und hat einen MBA von der Columbia Business School.


Seien Sie der Erste, der kommentiert
Ihre E-Mail-Adresse wird nicht veröffentlicht. Alle Felder sind erforderlich. Kommentare werden in ihrer Originalsprache belassen.