Jobs Companies Mindrift Senior Python Engineer - AI Coding Agent Evaluation (Freelance)

Über diese Senior Python Engineer - AI Coding Agent Evaluation (Freelance) Stelle bei Mindrift

Mindrift · Remote · United States

Please submit your CV in English and indicate your level of English proficiency.


Mindrift connects specialists with project-based AI opportunities for leading tech companies, focused on testing, evaluating, and improving AI systems. Participation is project-based, not permanent employment.What this opportunity involves:
We're building a dataset to evaluate AI coding agents - how well a model handles real-world developer tasks.


You'll create challenging tasks and evaluation criteria within realistic simulated environments:

  • Build realistic developer environments - a virtual company with codebase, infrastructure, and context (tickets, docs, conversations) that forms a believable development history
  • Design tasks from intermediate states of these environments - craft the prompt, define what "solved" means, and ensure the task is solvable by an AI agent
  • Write tests that verify agent solutions - accept all valid approaches and reject incorrect ones, neither too strict nor too lenient
  • Iterate on tasks and tests based on QA feedback - review agent solutions, analyze failures, and refine until the evaluation is fair and robust

What this is NOT:

  • Not data labeling
  • Not prompt engineering
  • Not writing code from scratch - the agent writes most of the code; you guide and evaluate

What we look for:

  • 8+ years in software development
  • Core stack: Python (FastAPI), JavaScript/TypeScript (React), Docker, Postgres, Kafka, Redis
  • Experience writing tests (functional, integration)
  • English proficiency - B2+

Why this is hard:
Frontier models are already good at coding. Creating a task that genuinely challenges the best models is non-trivial. You need to deeply understand where models fail and what scenarios reveal the difference between a good and a bad solution. Tasks have many valid solutions - writing tests that accept all correct solutions and reject incorrect ones is harder than it sounds.

How it works
Apply → Pass qualification(s) → Join a project → Complete tasks → Get paidEffort estimate


Tasks for this project are estimated to take 30 hours to complete, depending on complexity. This is an estimate and not a schedule requirement; you choose when and how to work. Tasks must be submitted by the deadline and meet the listed acceptance criteria to be accepted.

Compensation:
Up to $200/hr equivalent, depending on level and pace. Tasks are estimated at ~30 hours each; you set your own schedule.

Bereit, sich bei Mindrift zu bewerben?
Bei Mindrift bewerben

Wie sich dieses Gehalt für Python vergleicht

Diese Stelle zahlt $416,000/yrüber der üblichen Spanne für Python Stellen.

$93,600 dem Median $180,000 $323,200

Übliche Spanne $140,000–$195,750/yr, aus 31 vergleichbaren Python Anzeigen auf JobsRadar (Vergütung auf USD hochgerechnet). Gehaltseinblicke für Python ansehen →

Ähnliche Jobs

MongoDB
Senior Python Engineer
MongoDB
⚡ Früh bewerben United States Vor Ort $126,000–$248,000
● Neu 👁 Gesehen ✓ Beworben vor 8 Std.
Nearform
Senior Software Engineer - Python
Nearform
⚡ Früh bewerben United States Vor Ort
● Neu 👁 Gesehen ✓ Beworben vor 11 Std.
Ignite IT
Full Stack Developer (Python / Java / Angular / AWS)
Ignite IT
⚡ Früh bewerben Suitland, Maryland, United Sta... Remote
● Neu 👁 Gesehen ✓ Beworben vor 22 Std.
Checkr
Senior Software Engineer (Python), Mortgage
Checkr
⚡ Früh bewerben Remote, United States · standortgebunden $185,000–$218,000
● Neu 👁 Gesehen ✓ Beworben vor 1 Tg.
Anomaly
Python Engineer
Anomaly
⚡ Früh bewerben United States Remote $180,000–$200,000
● Neu 👁 Gesehen ✓ Beworben vor 1 Tg.
Kunai
Senior Software Engineer (Python)
Kunai
⚡ Früh bewerben Houston, Texas, United States Vor Ort
● Neu 👁 Gesehen ✓ Beworben vor 1 Tg.
Hudson River Trading
Software Engineer (C++ or Python) – 2027 Grads
Hudson River Trading
⚡ Früh bewerben Austin, TX, United States; Chi... Vor Ort $300,000–$300,000
● Neu 👁 Gesehen ✓ Beworben vor 3 Tg.
SentinelOne
Staff Endpoint Software Engineer - Python & OS Internals
SentinelOne
⚡ Früh bewerben United States - Remote · standortgebunden $156,000–$215,000
● Neu 👁 Gesehen ✓ Beworben vor 4 Tg.
Mindrift
Senior Python Engineer - AI Coding Agent Evaluation (Freelance)
Mindrift
⚡ Früh bewerben Texas, United States Remote
● Neu 👁 Gesehen ✓ Beworben vor 5 Tg.

Registrieren für Vorschläge, die auf die von Ihnen geöffneten Jobs und gespeicherten Suchen zugeschnitten sind.

Mehr Jobs bei Mindrift

Alle Jobs bei Mindrift ansehen →

Jetzt bewerben
🤖

Moment — langsam

JobsRadar wurde für echte Menschen gebaut, die eine schwere Zeit bei der Jobsuche haben — nicht für automatisierte Anfragen. Sie klicken viel zu schnell und sind jetzt vorübergehend blockiert.

Kommen Sie später wieder. Wenn Sie wirklich auf Jobsuche sind, stehen wir hinter Ihnen — verhalten Sie sich einfach wie ein Mensch.

Catch your next role the second it’s posted.

Create a free account and we’ll watch the boards for you — the instant a job matches your search, it lands in your inbox or Telegram. No digging, no refreshing.

Create free account

Free forever · takes 30 seconds · already have one?

Verschaffe dir einen Vorsprung bei der Jobsuche.

Tritt unserem Telegram-Kanal bei für das, was dir hilft, die Stelle zu bekommen — Gehaltsbenchmarks, den wöchentlichen Marktpuls und neue Feature-Drops. Kein Spam, nur Signal.

Dem Kanal beitreten — kostenlos