Jobs Companies Mindrift Senior Python Engineer - AI Coding Agent Evaluation (Freelance)

Über diese Senior Python Engineer - AI Coding Agent Evaluation (Freelance) Stelle bei Mindrift

Mindrift · Remote · India

Please submit your CV in English and indicate your level of English proficiency.


Mindrift connects specialists with project-based AI opportunities for leading tech companies, focused on testing, evaluating, and improving AI systems. Participation is project-based, not permanent employment.What this opportunity involves:
We're building a dataset to evaluate AI coding agents - how well a model handles real-world developer tasks.


You'll create challenging tasks and evaluation criteria within realistic simulated environments:

  • Build realistic developer environments - a virtual company with codebase, infrastructure, and context (tickets, docs, conversations) that forms a believable development history
  • Design tasks from intermediate states of these environments - craft the prompt, define what "solved" means, and ensure the task is solvable by an AI agent
  • Write tests that verify agent solutions - accept all valid approaches and reject incorrect ones, neither too strict nor too lenient
  • Iterate on tasks and tests based on QA feedback - review agent solutions, analyze failures, and refine until the evaluation is fair and robust

What this is NOT:

  • Not data labeling
  • Not prompt engineering
  • Not writing code from scratch - the agent writes most of the code; you guide and evaluate

What we look for:

  • 8+ years in software development
  • Core stack: Python (FastAPI), JavaScript/TypeScript (React), Docker, Postgres, Kafka, Redis
  • Experience writing tests (functional, integration)
  • English proficiency - B2+

Why this is hard:
Frontier models are already good at coding. Creating a task that genuinely challenges the best models is non-trivial. You need to deeply understand where models fail and what scenarios reveal the difference between a good and a bad solution. Tasks have many valid solutions - writing tests that accept all correct solutions and reject incorrect ones is harder than it sounds.

How it works
Apply → Pass qualification(s) → Join a project → Complete tasks → Get paidEffort estimate


Tasks for this project are estimated to take 30 hours to complete, depending on complexity. This is an estimate and not a schedule requirement; you choose when and how to work. Tasks must be submitted by the deadline and meet the listed acceptance criteria to be accepted.

Compensation:
Up to $100/hr equivalent, depending on level and pace. Tasks are estimated at ~30 hours each; you set your own schedule.

Bereit, sich bei Mindrift zu bewerben?
Bei Mindrift bewerben

Wie sich dieses Gehalt für Python vergleicht

Diese Stelle zahlt $208,000/yrüber der üblichen Spanne für Python Stellen.

$57,496 dem Median $157,500 $200,000

Übliche Spanne $93,600–$200,000/yr, aus 189 vergleichbaren Python Anzeigen auf JobsRadar (Vergütung auf USD hochgerechnet). Gehaltseinblicke für Python ansehen →

Ähnliche Jobs

Accellor
Senior Full Stack Software Developer (React, Python)
Accellor
⚡ Früh bewerben Hyderabad, Telangana, India Vor Ort
● Neu 👁 Gesehen ✓ Beworben vor 5 Std.
RO
Lead Developer (Python+ AWS+ React + Platform Engineering)
Referrals Only
⚡ Früh bewerben Bangalore, India; Chennai, Ind... Vor Ort
● Neu 👁 Gesehen ✓ Beworben vor 7 Std.
GSSTech Group
Senior Data Engineer - PySpark & Python
GSSTech Group
⚡ Früh bewerben Bengaluru, Karnataka, India Vor Ort
● Neu 👁 Gesehen ✓ Beworben vor 18 Std.
Extremenetworks
QA Engineer 10298 – Networking (Wired/Wireless) | Cloud (AWS/Azure/GCP) | Python
Extremenetworks
⚡ Früh bewerben Chennai, India Hybrid
● Neu 👁 Gesehen ✓ Beworben vor 1 Tg.
AN
Senior QA Engineer(Python, Pytest and ML)
Anaplan
⚡ Früh bewerben Gurugram, India Vor Ort
● Neu 👁 Gesehen ✓ Beworben vor 1 Tg.
Airbnb
Software Engineer, BizTech(Python, LLM, GenAI, MCP)
Airbnb
⚡ Früh bewerben Bangalore, India Vor Ort
● Neu 👁 Gesehen ✓ Beworben vor 1 Tg.
Weekday AI
Python Developer
Weekday AI
⚡ Früh bewerben Bengaluru, Karnataka, India Vor Ort INR 31,200–INR 52,000
● Neu 👁 Gesehen ✓ Beworben vor 1 Tg.
Precisely International Jobs
Senior AI Automation Engineer – Agentic AI (Python)
Precisely International Jobs
⚡ Früh bewerben Noida, India Vor Ort
● Neu 👁 Gesehen ✓ Beworben vor 3 Tg.
Scopely
Senior Software Engineer - Backend (Python + Django)
Scopely
⚡ Früh bewerben IN - Bangalore, India Vor Ort
● Neu 👁 Gesehen ✓ Beworben vor 4 Tg.

Registrieren für Vorschläge, die auf die von Ihnen geöffneten Jobs und gespeicherten Suchen zugeschnitten sind.

Mehr Jobs bei Mindrift

Alle Jobs bei Mindrift ansehen →

Jetzt bewerben
🤖

Moment — langsam

JobsRadar wurde für echte Menschen gebaut, die eine schwere Zeit bei der Jobsuche haben — nicht für automatisierte Anfragen. Sie klicken viel zu schnell und sind jetzt vorübergehend blockiert.

Kommen Sie später wieder. Wenn Sie wirklich auf Jobsuche sind, stehen wir hinter Ihnen — verhalten Sie sich einfach wie ein Mensch.

Catch your next role the second it’s posted.

Create a free account and we’ll watch the boards for you — the instant a job matches your search, it lands in your inbox or Telegram. No digging, no refreshing.

Create free account

Free forever · takes 30 seconds · already have one?

Verschaffe dir einen Vorsprung bei der Jobsuche.

Tritt unserem Telegram-Kanal bei für das, was dir hilft, die Stelle zu bekommen — Gehaltsbenchmarks, den wöchentlichen Marktpuls und neue Feature-Drops. Kein Spam, nur Signal.

Dem Kanal beitreten — kostenlos