Dienstleistungen
Kontaktieren

Reproduzierbare KI: Warum sie wichtig ist & wie man sie verbessert

Cem Dilmegani
Cem Dilmegani
aktualisiert am 23. Juni 2026

Reproduzierbarkeit ist ein grundlegender Aspekt wissenschaftlicher Methoden, der es Forschern ermöglicht, ein Experiment oder eine Studie zu replizieren und mit derselben Methodik konsistente Ergebnisse zu erzielen. Dieses Prinzip ist ebenso wichtig in künstlicher Intelligenz (KI) und Machine-Learning-Anwendungen (ML), wo die Fähigkeit, Ergebnisse zu reproduzieren, eine stabile Inferenz über Modellumgebungen hinweg sicherstellt. Allerdings:

  • ~5% der KI-Forscher teilen den Quellcode und weniger als ein Drittel von ihnen teilt Testdaten in ihren Forschungsarbeiten. 1
  • Weniger als ein Drittel der KI-Forschung ist reproduzierbar, d. h. überprüfbar. 2

Dies wird allgemein als Reproduzierbarkeits- oder Replikationskrise in der KI bezeichnet.3 Erfahren Sie, warum Reproduzierbarkeit für die KI wichtig ist und wie Unternehmen die Reproduzierbarkeit in ihren KI-Anwendungen verbessern können.

Was ist Reproduzierbarkeit in der künstlichen Intelligenz?

KI-Reproduzierbarkeit ist die Fähigkeit, mit demselben Datensatz und demselben KI-Algorithmus innerhalb derselben Umgebung die gleichen oder ähnlichen Ergebnisse zu erzielen.

  • Der Datensatz ist der Trainingsdatensatz, den der KI-Algorithmus zur Vorhersage verwendet.
  • Der KI-Algorithmus besteht aus Modelltyp, Modellparametern und Hyperparametern, Merkmalen und anderem Code.
  • Die Umgebung bezieht sich auf die Software und Hardware, die zum Ausführen des Algorithmus verwendet werden.

Um Reproduzierbarkeit in KI-Systemen zu erreichen, müssen Änderungen an allen drei Komponenten verfolgt und aufgezeichnet werden.

Warum ist Reproduzierbarkeit in der KI wichtig?

Reproduzierbarkeit ist sowohl für die KI-Forschung als auch für KI-Anwendungen in Unternehmen von entscheidender Bedeutung, weil:

Für die KI-/ML-Forschung hängt der wissenschaftliche Fortschritt von der Fähigkeit unabhängiger Forscher ab, die Ergebnisse einer Studie zu überprüfen und zu reproduzieren.4 Machine Learning kann nicht verbessert oder in anderen Bereichen angewendet werden, wenn seine wesentlichen Komponenten nicht für die Reproduzierbarkeit dokumentiert sind. Ein Mangel an Reproduzierbarkeit verwischt die Grenze zwischen wissenschaftlicher Produktion und Marketing.

Für KI-Anwendungen in Unternehmen würde Reproduzierbarkeit den Aufbau von KI-Systemen ermöglichen, die weniger fehleranfällig sind. Weniger Fehler würden Unternehmen und ihren Kunden zugute kommen, indem sie die Zuverlässigkeit und Vorhersehbarkeit erhöhen, da Unternehmen verstehen können, welche Komponenten zu bestimmten Ergebnissen führen. Dies ist notwendig, um Entscheidungsträger davon zu überzeugen, KI-Systeme zu skalieren und mehr Nutzern den Zugang zu ermöglichen.

Was sind die Herausforderungen in Bezug auf reproduzierbare KI?

Herausforderung
Beispiel
Zufälligkeit
Unterschiedliche Ergebnisse aus stochastischem Gradientenabstieg (SGD) im Deep Learning
Mangel an Standardisierung bei der Vorverarbeitung
Unterschiedliche Stoppwortentfernung in der NLP, die die Modellleistung beeinflusst
Nicht-deterministische Hardware/Software
Unterschiede in den Ergebnissen auf NVIDIA GPU vs. AMD GPU
Hyperparameter-Tuning
Unterschiede in der Lernrate bei XGBoost, die die Leistung drastisch verändern
Mangel an Dokumentation/Code-Sharing
Transformer-Modelle ohne detaillierte Implementierung der Schichtnormalisierung
Versionsprobleme
TensorFlow 1.x vs. TensorFlow 2.x API-Änderungen, die die Reproduzierbarkeit beeinflussen
Verfügbarkeit/Variabilität von Datensätzen
Proprietäre Gesundheitsdatensätze, die für die Replikation nicht zugänglich sind
Rechenressourcen
State-of-the-Art-Modelle wie GPT-4, die massive GPU-Cluster zur Replikation des Trainings erfordern
Overfitting auf spezifische Testsets
Berichterstattung über Ergebnisse nur auf spezifischen Datensatzaufteilungen, Overfitting auf Testdaten
Bias/Cherry-Picking von Ergebnissen
Berichterstattung nur über den besten experimentellen Lauf ohne Offenlegung anderer Ergebnisse

1. Zufälligkeit und stochastische Natur von Algorithmen

Viele KI-Modelle, insbesondere Deep-Learning-Algorithmen, integrieren Zufälligkeit während ihrer Trainings- und Inferenzprozesse. Beispielsweise tragen zufällige Gewichtsinitialisierung, Dropout-Schichten und stochastischer Gradientenabstieg (SGD) zu einer Variabilität bei, selbst bei Verwendung desselben Datensatzes, derselben Codebasis und Umgebung.

Dieses Problem ist besonders ausgeprägt bei Large Language Models (LLMs), wie GPT-5, Gemini oder LLaMA, die inhärent probabilistisch sind. Selbst bei Eingabe desselben Inputs und derselben Konfiguration können sie unterschiedliche Ausgaben generieren, insbesondere wenn Temperatur- oder Top-k-Sampling-Parameter angepasst werden. Diese Einstellungen steuern die Zufälligkeit der Ausgabeerzeugung:

  • Temperatur passt die Wahrscheinlichkeitsverteilung an, die beim Token-Sampling verwendet wird. Eine höhere Temperatur (z. B. 1,0) erzeugt vielfältigere, kreativere Ausgaben, während eine niedrigere Temperatur (z. B. 0,2) deterministischere Antworten liefert.
  • Top-k oder Top-p (Nucleus) Sampling steuert die Zufälligkeit weiter, indem der Bereich der in jedem Schritt betrachteten Tokens begrenzt wird.

Wenn man einem LLM zweimal aufträgt, denselben Absatz mit einer Temperatur von 0,9 zusammenzufassen, können erheblich unterschiedliche Zusammenfassungen entstehen. Diese Variabilität macht es schwierig, das Modellverhalten zu überprüfen oder zu reproduzieren, es sei denn, die Einstellungen sind festgelegt und explizit dokumentiert.

In Unternehmens-Anwendungen, wie z. B. Vertragszusammenfassung, Chatbot-Antworten oder KI-Coding-Assistenten, stellt diese Unvorhersehbarkeit Herausforderungen für das Debugging, die Compliance und die Qualitätssicherung dar. Teams können Schwierigkeiten haben, nachzuvollziehen, welche Konfiguration zu einer bestimmten Ausgabe geführt hat, es sei denn, alle Parameter, einschließlich des Zufallssamens und der Temperatur, werden konsistent protokolliert.

Beispielsweise erklärte das Thinking Machines Lab das Versagen der Batch-Invarianz als eine Hauptquelle für Nichtdeterminismus bei der LLM-Inferenz. Idealerweise sollte ein Modell für einen gegebenen Prompt dieselbe Ausgabe produzieren, unabhängig davon, ob es allein oder zusammen mit anderen Anfragen verarbeitet wird. Moderne Serving-Systeme bündeln Anfragen jedoch dynamisch, um die GPU-Effizienz zu verbessern, und viele GPU-Kernels variieren ihre Ausführungsmuster je nach Batch-Größe oder Layout.

Da Gleitkommaoperationen nicht perfekt assoziativ sind, können kleine Änderungen in der Reihenfolge der Berechnung die Logits leicht verändern. Während des Decodierens können diese winzigen Unterschiede schließlich dazu führen, dass das Modell verschiedene Tokens auswählt, was zu unterschiedlichen Ausgaben führt, selbst bei deterministischen Einstellungen (z. B. Temperatur = 0). Tatsächlich hängt das Ergebnis des Modells davon ab, welche anderen Anfragen den Batch teilen, was die Inferenz als nichtdeterministisch erscheinen lässt.5

2. Mangel an Standardisierung bei der Datenvorverarbeitung

Vorverarbeitungsschritte wie Daten-Augmentierung, Normalisierung und Merkmalsextraktion werden oft nicht konsistent dokumentiert oder geteilt. Kleine Änderungen bei der Datenvorverarbeitung, selbst scheinbar geringfügige wie Rundungsfehler, können zu unterschiedlichen Ergebnissen führen. Dies gilt insbesondere für Bildverarbeitung oder Natural Language Processing-Aufgaben, bei denen die Datenvariabilität hoch ist.

3. Nicht-deterministische Hardware und Software

Die Ausführung von KI-Algorithmen kann auf unterschiedlicher Hardware (CPUs, GPUs, TPUs) und sogar auf derselben Hardware variieren, aufgrund zugrunde liegender nicht-deterministischer Prozesse in Bibliotheken. Unterschiede in den Versionen dieser Bibliotheken können weitere Variabilität einführen, selbst wenn Code und Daten identisch sind.

Beispielsweise führte PyTorch 2.10 mehrere Verbesserungen ein, die sich auf Determinismus und das Debuggen numerischer Probleme in modernen ML-Workflows konzentrierten.

Da verteiltes Reinforcement Learning und groß angelegte Post-Training-Pipelines immer häufiger werden, ist die Gewährleistung einer reproduzierbaren Ausführung und die Diagnose subtiler numerischer Abweichungen zunehmend wichtig. Um dies zu adressieren, fügte das Release neue Debugging-Funktionen wie DebugMode hinzu, das aufgerufene Aufrufe verfolgt und hilft, Quellen numerischer Instabilität während der Ausführung zu identifizieren.6

4. Hyperparameter-Tuning

Viele KI-Modelle verlassen sich auf Hyperparameter wie Lernrate, Batch-Größe oder Regularisierungsstärke, die feinabgestimmt werden müssen. Oft werden diese nicht detailliert genug geteilt oder ihre Auswahl wird nicht rigoros erklärt, was die Reproduktion von Ergebnissen erschwert. Auch können geringfügige Änderungen an Hyperparametern zu sehr unterschiedlichen Leistungsergebnissen führen.

5. Mangel an detaillierter Dokumentation und Code-Sharing

Auch wenn Forschungsarbeiten Code bereitstellen, ist dieser möglicherweise nicht vollständig oder stimmt nicht vollständig mit den veröffentlichten Ergebnissen überein. Einige kritische Elemente, wie spezifische Bibliotheken, Modellgewichte oder Datenpipelines, werden möglicherweise nicht offengelegt, was eine exakte Reproduktion behindert.

6. Versionsprobleme

Die dynamische Natur von KI-Software-Ökosystemen bedeutet, dass Bibliotheken und Frameworks sich ständig weiterentwickeln. Ein Modell, das mit einer bestimmten Version einer Bibliothek trainiert wurde, kann bei Ausführung in einer späteren Version nicht die gleiche Leistung erbringen, selbst wenn der Code unverändert bleibt. Die Verfolgung von Versionen für alle Abhängigkeiten kann schwierig sein, und die Versionsverwaltung ist oft schlecht dokumentiert.

7. Verfügbarkeit und Variabilität von Datensätzen

Einige in der KI-Forschung verwendete Datensätze sind proprietär oder nicht öffentlich verfügbar, was die Replikation von Studien unmöglich macht. Selbst wenn Datensätze verfügbar sind, kann es zu Variationen durch Stichproben, Updates oder unterschiedliche Vorverarbeitungstechniken kommen, die zum Zeitpunkt der Forschung angewendet wurden.

8. Rechenressourcen

Die Reproduktion von State-of-the-Art-KI-Modellen erfordert oft erhebliche Rechenressourcen, einschließlich spezialisierter Hardware wie GPUs oder TPUs. Forscher oder Praktiker ohne Zugang zu derselben Ressourcenstufe können Schwierigkeiten haben, Ergebnisse zu replizieren.

9. Overfitting auf spezifische Testsets

In einigen Fällen werden Modelle unbeabsichtigt auf spezifische Testsets oder Benchmarks overfitted. Wenn diese Modelle in unterschiedlichen Umgebungen oder auf leicht veränderten Datensätzen getestet werden, können die Ergebnisse nicht generalisieren, was die Reproduzierbarkeit erschwert.

10. Bias bei der Berichterstattung und Cherry-Picking von Ergebnissen

Forscher können die am besten performende Version eines Modells nach mehreren Läufen berichten, ohne die Variabilität über die Läufe hinweg anzugeben oder die Gesamtzahl der durchgeführten Experimente offenzulegen. Diese selektive Berichterstattung verzerrt die wahrgenommene Reproduzierbarkeit der Ergebnisse.

Die Rolle von KI-Forschern bei der Bewältigung der Reproduzierbarkeit

KI-Forscher entwickeln hochmoderne Modelle, tragen aber auch die Verantwortung dafür, dass ihre Arbeit überprüft und vertrauenswürdig ist. Trotz Aufrufen zur Transparenz fallen viele Forschungsergebnisse in der Praxis immer noch hinterher:

  • Eine Analyse von NeurIPS-Papieren (Conference on Neural Information Processing Systems) ergab, dass nur 42% Code enthielten und gerade 23% Links zu Datensätzen bereitstellten.
  • Die meisten KI-Studien verfügen nicht über ausreichende Details, um unabhängig reproduziert zu werden, oft aufgrund unzureichender Dokumentation von Hyperparametern, Trainingsbedingungen und Evaluierungsprotokollen.
  • Fast 70% der KI-Forscher gaben zu, Schwierigkeiten gehabt zu haben, die Ergebnisse anderer zu reproduzieren, selbst innerhalb desselben Teilbereichs.

Um diese Probleme zu überwinden, muss die KI-Forschergemeinschaft:

  • Offene Wissenschaftspraktiken übernehmen: Das Teilen von Code, Daten und detaillierten Experimentprotokollen ermöglicht Peer-Verifizierung und wissenschaftliche Integrität.
  • Standardisierte Berichterstattung: Die Einhaltung strukturierter Formate wie der Machine Learning Reproducibility Checklist hilft sicherzustellen, dass wesentliche Details dokumentiert werden.
  • Überinstitutionelle Validierung fördern: Die Ermutigung unabhängiger Replikationen durch andere Forschungsteams hilft, Generalisierbarkeit und Zuverlässigkeit zu identifizieren.
Verpassen Sie nicht unsere Benchmarks und datengestützten Erkenntnisse. Die Schaltfläche öffnet Google; die Auswahl von AIMultiple bestätigt, dass Sie AIMultiple häufiger in den Google-Suchergebnissen sehen möchten.
GoogleAls bevorzugte Quelle hinzufügen

Wie kann man die Reproduzierbarkeit in der KI verbessern?

Der beste Weg, KI-Reproduzierbarkeit im Unternehmen zu erreichen, ist die Nutzung von MLOps-Best-Practices. MLOps umfasst die Straffung des Lebenszyklus von künstlicher Intelligenz und Machine Learning durch Automatisierung und ein einheitliches Framework innerhalb einer Organisation.

Einige MLOps-Tools und -Techniken, die die Reproduzierbarkeit erleichtern, sind:

  • Experiment-Tracking: Experiment-Tracking-Tools helfen, wichtige Informationen über diese Experimente strukturiert zu verfolgen.
  • Data Lineage: Data Lineage verfolgt, woher die Daten stammen, was mit ihnen passiert und wohin sie im Datenlebenszyklus gehen, mit Aufzeichnungen und Visualisierungen.
  • Model Versioning: Ebenso helfen Data-Versioning-Tools, verschiedene Versionen von KI-Modellen mit unterschiedlichen Modelltypen, Parametern, Hyperparametern usw. zu verfolgen und Unternehmen den Vergleich zu ermöglichen.
  • Model Registry: Die Model Registry ist ein zentrales Repository für alle Modelle und ihre Metadaten. Dies hilft Data Scientists, auf verschiedene Modelle und ihre Eigenschaften zu verschiedenen Zeitpunkten zuzugreifen.

Neben den Tools hilft MLOps Unternehmen auch, die Reproduzierbarkeit zu verbessern, indem es die Kommunikation zwischen Data Scientists, IT-Personal, Fachexperten und Operations-Profis erleichtert.

Was bedeutet zuverlässige KI & wie hängt sie mit reproduzierbarer KI zusammen?

Zuverlässige KI bezieht sich auf Systeme, die unter verschiedenen Bedingungen konsistent und korrekt funktionieren. Dies umfasst die Erzeugung genauer, fairer und sicherer Ausgaben in verschiedenen Umgebungen und bei verschiedenen Dateneingaben. Eine wichtige Säule der Zuverlässigkeit ist die Reproduzierbarkeit, die Fähigkeit, mit denselben Eingaben und Methoden dieselben Ergebnisse zu erzielen, auch wenn das System in neuen Kontexten oder von verschiedenen Teams eingesetzt wird.

  • Konsistenz über Läufe hinweg: Reproduzierbare KI stellt sicher, dass wiederholtes Training oder Inferenz unter denselben Bedingungen dieselben Ergebnisse liefert, was für die Validierung der Zuverlässigkeit entscheidend ist.
  • Debugging und Auditing: Zuverlässige Systeme müssen transparent und rechenschaftspflichtig sein. Reproduzierbarkeit ermöglicht es Stakeholdern, nachzuvollziehen, wie eine Entscheidung getroffen wurde, und sie unabhängig zu überprüfen.
  • Robustes Testen: Um Zuverlässigkeit zu gewährleisten, muss KI unter mehreren Bedingungen getestet werden. Reproduzierbarkeit ermöglicht standardisierte Testverfahren zur Validierung von Leistungsansprüchen.
  • Vertrauensaufbau: Wenn Ergebnisse konsistent reproduziert werden können, sind Benutzer und Regulierungsbehörden eher bereit, der Zuverlässigkeit und Sicherheit der KI zu vertrauen.
  • Wissenschaftliche Integrität: In der KI-Forschung ist Reproduzierbarkeit für Peer-Review und Fortschritt unerlässlich. Zuverlässige Systeme hängen von dieser Grundlage ab, um sicherzustellen, dass theoretische Stimmigkeit in praktische Zuverlässigkeit übersetzt wird.

Beispiele für zuverlässige KI

Jamba2

Jamba2 ist eine Familie von Open-Source-Sprachmodellen, die von AI21 veröffentlicht wurden und Zuverlässigkeit, Steuerbarkeit und Effizienz für Unternehmensanwendungen priorisieren. Die Modelle basieren auf der hybriden SSM-Transformer-Architektur von AI21, die State-Space-(Mamba-artige)-Schichten mit Transformer-Schichten kombiniert, um starke Leistung bei gleichzeitiger Speichereffizienz zu erzielen.

AI21 positioniert Jamba2 als eine unternehmensorientierte Alternative zu großen Reasoning-Modellen, mit Fokus auf präzise Fragenbeantwortung, fundierte Antworten und Befolgung von Anweisungen ohne den hohen Rechenaufwand von Reasoning-Tokens.

Sein kompakter Footprint ermöglicht es Entwicklern, Modelle lokal auszuführen (sogar auf Consumer-Geräten wie Handys oder Laptops), während sie weiterhin Produktionsworkloads wie RAG-Pipelines und die Verarbeitung technischer Dokumente unterstützen.7

IBM

IBM stellte Sovereign Core als eine „KI-fertige, souveränitätsorientierte“ Softwareplattform vor, die Unternehmen und Regierungen ermöglicht, KI-Umgebungen mit vollständiger Kontrolle über Daten, Operationen und Governance bereitzustellen.8

Mistral AI

Mistral AI sicherte sich eine wichtige französische Verteidigungsrahmenvereinbarung zur Lieferung generativer KI-Modelle, wobei der Vertrag die Bereitstellung auf französischer Infrastruktur vorsieht, „um die nationale Kontrolle über sensible Daten und Technologie zu bewahren“.9

Diese Forschung zitieren

Wählen Sie das Format, das zu Ihrem Veröffentlichungsort passt. Wenn Sie die Link-Version in Ihr CMS einfügen, bleibt der Backlink erhalten.

Cem Dilmegani (2026) - "Reproduzierbare KI: Warum sie wichtig ist & wie man sie verbessert". Online veröffentlicht auf AIMultiple.com. Abgerufen am 23. Juni 2026, von: https://aimultiple.com/reproducible-ai [Online-Ressource]

Dilmegani, C. (2026, 23. Juni). Reproduzierbare KI: Warum sie wichtig ist & wie man sie verbessert. AIMultiple. https://aimultiple.com/reproducible-ai

@misc{dilmegani2026,
  author = {Dilmegani, Cem},
  title  = {{Reproduzierbare KI: Warum sie wichtig ist & wie man sie verbessert}},
  year   = {2026},
  month  = jun,
  howpublished    = {\url{https://aimultiple.com/reproducible-ai}},
  note   = {AIMultiple. Abgerufen am 23. Juni 2026}
}
Cem Dilmegani
Cem Dilmegani
Leitender Analyst
Cem ist seit 2017 leitender Analyst bei AIMultiple. AIMultiple informiert monatlich Hunderttausende von Unternehmen (laut similarWeb), darunter 55 % der Fortune 500. Cems Arbeit wurde von führenden globalen Publikationen wie Business Insider, Forbes und der Washington Post, von globalen Unternehmen wie Deloitte und HPE sowie von NGOs wie dem Weltwirtschaftsforum und supranationalen Organisationen wie der Europäischen Kommission zitiert. Weitere namhafte Unternehmen und Ressourcen, die AIMultiple referenziert haben, finden Sie hier. Im Laufe seiner Karriere war Cem als Technologieberater, Technologieeinkäufer und Technologieunternehmer tätig. Über ein Jahrzehnt lang beriet er Unternehmen bei McKinsey & Company und Altman Solon in ihren Technologieentscheidungen. Er veröffentlichte außerdem einen McKinsey-Bericht zur Digitalisierung. Bei einem Telekommunikationsunternehmen leitete er die Technologiestrategie und -beschaffung und berichtete direkt an den CEO. Darüber hinaus verantwortete er das kommerzielle Wachstum des Deep-Tech-Unternehmens Hypatos, das innerhalb von zwei Jahren von null auf einen siebenstelligen jährlichen wiederkehrenden Umsatz und eine neunstellige Unternehmensbewertung kam. Cems Arbeit bei Hypatos wurde von führenden Technologiepublikationen wie TechCrunch und Business Insider gewürdigt. Er ist ein gefragter Redner auf internationalen Technologiekonferenzen. Cem absolvierte sein Studium der Informatik an der Bogazici-Universität und besitzt einen MBA der Columbia Business School.
Vollständiges Profil anzeigen

Kommentare 2

Teilen Sie Ihre Gedanken

Ihre E-Mail-Adresse wird nicht veröffentlicht. Alle Felder sind erforderlich. Kommentare werden in ihrer Originalsprache belassen.

0/450
Richard Rudd-Orthner
Richard Rudd-Orthner
Oct 04, 2023 at 09:14

I have been working on this and have achieved it with on CPU. Repeatable determinism or reproducibility is a key stone of dependable systems and when applied in convolutional network can have higher accuracy. These are some of the academically peer-reviewed publications made in the IEEE. • [1] R. Rudd-Orthner and L. Mihaylova, “Non-Random weight initialisation in deep learning networks for repeatable determinism,” in Peer Reviewed Proc. of the 10th IEEE International Conference Dependable Systems Services and Technologies (DESSERT-19), Leeds, UK, 2019. o This conference paper proved that an alternative to the random initialisation was possible and provided an almost equal performance but with reproducibility. Presented at the UK Ukraine and Northen Island IEEE branches conference in Leeds. • [2] R. Rudd-Orthner and L. Milhaylova, “Repeatable determinism using non-random weight initialisations in smart city applications of deep learning,” Journal of Reliable Intelligent Environments in a Smart Cities special edition, vol. 6, no. 1, pp. 31-49, 2020. o This Journal paper enhanced the performance to an equivalent performance by using the limits from He and Xavier and made the previous reproducibility a more general case for general use, although it was limited to Dense layers. • [3] R. Rudd-Orthner and L. Milhaylova, “Non-random weight initialisation in deep convolutional networks applied to safety critical artificial intelligence,” in Peer Reviewed Proc. of the 13th International Conference on Developments in eSystems Engineering (DeSe), Liverpool, UK, 2020. o This conference paper proved an approach to Convolutional layers that as alternative to the random initialisation and provided a higher performance with reproducibility. Presented at the UK and UAE IEEE branches conference in Liverpool held virtually. • [4] R. Rudd-Orthner and L. Milhaylova, “Deep convnet: non-random weight initialization for repeatable determinism with FSGM,” Sensors, vol. 21, no. 14, p. 4772, 2021. o This Journal paper extended the work into colour images proofs and used the cyber FSGM attack as a method for measuring effect in transferred learning. • [5] R. Rudd-Orthner and L. Milhaylova, “Multi-type aircraft of remote sensing images: MTARSI2,” Zenodo, 30 June 2021. [Online]. Available: https://zenodo.org/record/5044950#.YcWalmDP2Ul. [Accessed 30 June 2021]. o This was the colour dataset used. • [6] R. Rudd-Orthner, “Artificial Intelligence Methods for Security and Cyber Security Systems,” University of Sheffield, Sheffield, UK, 2022. o This is the final full write up in the context and with other approaches.

Richard Rudd-Orthner
Richard Rudd-Orthner
Oct 04, 2023 at 09:13

I have been working on this and have achieved it with on CPU. Repeatable determinism or reproducibility is a key stone of dependable systems and when applied in convolutional network can have higher accuracy. These are some of the academically peer-reviewed publications made in the IEEE etc about Safety Critical AI. • [1] R. Rudd-Orthner and L. Mihaylova, “Non-Random weight initialisation in deep learning networks for repeatable determinism,” in Peer Reviewed Proc. of the 10th IEEE International Conference Dependable Systems Services and Technologies (DESSERT-19), Leeds, UK, 2019. o This conference paper proved that an alternative to the random initialisation was possible and provided an almost equal performance but with reproducibility. Presented at the UK Ukraine and Northen Island IEEE branches conference in Leeds. • [2] R. Rudd-Orthner and L. Milhaylova, “Repeatable determinism using non-random weight initialisations in smart city applications of deep learning,” Journal of Reliable Intelligent Environments in a Smart Cities special edition, vol. 6, no. 1, pp. 31-49, 2020. o This Journal paper enhanced the performance to an equivalent performance by using the limits from He and Xavier and made the previous reproducibility a more general case for general use, although it was limited to Dense layers. • [3] R. Rudd-Orthner and L. Milhaylova, “Non-random weight initialisation in deep convolutional networks applied to safety critical artificial intelligence,” in Peer Reviewed Proc. of the 13th International Conference on Developments in eSystems Engineering (DeSe), Liverpool, UK, 2020. o This conference paper proved an approach to Convolutional layers that as alternative to the random initialisation and provided a higher performance with reproducibility. Presented at the UK and UAE IEEE branches conference in Liverpool held virtually. • [4] R. Rudd-Orthner and L. Milhaylova, “Deep convnet: non-random weight initialization for repeatable determinism with FSGM,” Sensors, vol. 21, no. 14, p. 4772, 2021. o This Journal paper extended the work into colour images proofs and used the cyber FSGM attack as a method for measuring effect in transferred learning. • [5] R. Rudd-Orthner and L. Milhaylova, “Multi-type aircraft of remote sensing images: MTARSI2,” Zenodo, 30 June 2021. [Online]. Available: https://zenodo.org/record/5044950#.YcWalmDP2Ul. [Accessed 30 June 2021]. o This was the colour dataset used. • [6] R. Rudd-Orthner, “Artificial Intelligence Methods for Security and Cyber Security Systems,” University of Sheffield, Sheffield, UK, 2022. o This is the final full write up in the context and with other approaches.