Noch keine KI-Analyse
Ausführen: python script_run_ai_scoring.py --profile jakob
Stellenbeschreibung
Start: 11/2025 | Remote: 100%
Beschreibung
Posted by
Digital Dunia LLC
Contact person
Dunja Schmidt
Project ID
2937924
Artificial Intelligence
Data Analysis
Benchmarking
Finance
Failure Analysis
Python (Programming Language)
Pattern Recognition
Visualization
Quality Management
Rubric
SciPy
SQL Databases
Tableau (Software)
Root Cause Analysis
Carry Out Assessments
Large Language Models
Pandas
Matplotlib
Looker Analytics
Description
Ein großes US-Unternehmen sucht derzeit einen datengetriebenen Analysten (Data Scientist), der eine umfassende Fehleranalyse der Leistung von KI-Agenten bei Aufgaben im Finanzsektor durchführt. Die Position wird über Mercor, eine internationale Plattform zur Vermittlung von Tech- und KI-Talenten, ausgeschrieben.
Ziel der Rolle ist es, Muster, Ursachen und systemische Schwachstellen in der Leistungsbewertung zu identifizieren – und so die Qualität, Genauigkeit und Zuverlässigkeit der KI-Evaluationsprozesse zu verbessern.
Deine Aufgaben
Statistische Fehleranalyse: Erkennen von Mustern in KI-Agenten-Fehlern über verschiedene Aufgabenkomponenten hinweg (Prompts, Rubriken, Dateitypen, Tags).
Ursachenanalyse: Untersuchen, ob Fehler auf Aufgabendesign, Rubrikenklarheit, Dateikomplexität oder Agentenbeschränkungen zurückzuführen sind.
Dimensionsanalyse: Analysieren von Leistungsunterschieden in Finanzunterbereichen, Dateitypen und Aufgabenkategorien.
Reporting & Visualisierung: Erstellung von Dashboards und Berichten, die Fehlercluster, Randfälle und Optimierungspotenziale aufzeigen.
Qualitätsrahmen: Ableitung von Verbesserungsvorschlägen für Aufgabendesign, Rubrikenstruktur und Bewertungskriterien auf Basis statistischer Erkenntnisse.
Stakeholder-Kommunikation: Präsentation der Ergebnisse gegenüber Datenlabeling-Experten und technischen Teams.
Erforderliche Qualifikationen
Fundierte Kenntnisse in statistischer Analyse, Hypothesentests und Mustererkennung
Sicherer Umgang mit Python (pandas, scipy, matplotlib/seaborn) oder R
Erfahrung in explorativer Datenanalyse und der Ableitung handlungsorientierter Insights
Grundverständnis von LLM-Bewertungsmethoden und Qualitätsmetriken
Kenntnisse in Excel, SQL sowie Tools wie Tableau oder Looker
Fließende Englischkenntnisse in Wort und Schrift
Bevorzugte Qualifikationen (Nice to have)
Erfahrung in der Bewertung oder Qualitätssicherung von KI/ML-Modellen
Hintergrund im Finanzsektor oder Bereitschaft, sich in Finanzthemen einzuarbeiten
Erfahrung mit mehrdimensionaler Fehleranalyse
Kenntnisse zu Benchmark-Datensätzen und Bewertungsrahmen
2–4 Jahre relevante Berufserfahrung
Über Mercor
Mercor ist eine internationale Plattform, die Unternehmen und Talente weltweit miteinander verbindet. Der Fokus liegt auf hochqualifizierten Fachkräften aus den Bereichen Data Science, Machine Learning und Softwareentwicklung. Mercor arbeitet mit führenden Unternehmen aus den USA, Europa und Asien zusammen und bietet Projekt- sowie Vollzeitmöglichkeiten im Tech- und KI-Bereich.
Bitte kontaktieren Sie uns ausschließlich per Nachricht.
### Disclaimer: Ich bin ein unabhängiges Mitglied des Mercor-Referral-Programms.
Der Link, der Ihnen bei Kontaktaufnahme von uns übersandt wird, ist ein Empfehlungslink. Wir arbeiten nicht für Mercor, vertreten Mercor nicht und die Nutzung dieses Links garantiert keine Anstellung. ###
Last edited: 11/09/2025