InterviewHack.ai
Empezar gratis
Vacantes / Callosum

Research Engineer, Benchmarking - Member of Technical Staff

Callosum·Londonmid

En corto

  • →Ingeniero de investigación que construye un sistema de benchmarking riguroso para sistemas agenticos de IA.
  • →Trabaja con hardware heterogéneo y evalúa rendimiento real mediante ejecución aislada y calificación automatizada.
  • →El sistema es el criterio definitivo para decidir qué soluciones se despliegan, con impacto directo en productos y clientes.

Fluent English required for technical collaboration and documentation.

Postularme en la empresa ↗Compartir por WhatsApp
✓ Gratis para empezar✓ Corre en tu navegador✓ Primer dossier sin tarjeta✓ Listo en ~1 minuto

En ~1 minuto te damos: quién te entrevista, las preguntas probables con respuestas desde tu CV, y tu CV adaptado a esta vacante. Tu primer dossier es gratis.

Las preguntas que te van a hacer

1. ¿Cómo diseñarías un benchmark para evaluar la robustez de un agente en tareas de edición de código con múltiples pasos?

2. ¿Qué métricas usarías para medir el éxito de una tarea de resumen de repositorio y cómo las protegerías de sesgos?

3. ¿Cómo garantizarías que los resultados de benchmark no se vean afectados por contaminación entre ejecuciones?

🔒 +7 preguntas más

Sin tarjeta. Subís tu CV y en ~1 minuto tenés el dossier completo.

🎧¿Llegás a la entrevista? Llevá el copiloto. Nuestra extensión escucha la entrevista en vivo y te muestra anclas de 3-4 palabras desde tu CV y tu preparación — mirás, conectás, hablás. Gratis. Ver la extensión →

💵 USD · Remote · No visa

¿No encontrás lo que buscás? Probá Micro1

Micro1 te ubica directo en empresas de EE. UU. que pagan en USD. Un solo proceso de vetting, múltiples ofertas — sin aplicar en frío.

Que Micro1 te matchee →
📬Vacantes elegidas para TU CV, cada mañana por WhatsApp. Gratis: escribí “vacantes” y el bot te manda tus matches del día. Suscribirme →

¿Qué piden?

  • ✓Experiencia en evaluación de modelos de IA, especialmente LLMs y sistemas agenticos.
  • ✓Capacidad para construir sistemas de benchmarking reproducibles y libres de contaminación.
  • ✓Conocimiento profundo de métricas de éxito de tareas, calidad y robustez en workloads reales.
  • ✓Habilidades sólidas en ingeniería de software para sistemas de producción.
  • ✓Experiencia con ejecución aislada (sandboxing) y evaluación automatizada de resultados.
  • ✓Capacidad para trabajar en entornos de investigación y desarrollo con alto grado de incertidumbre.

¿No cumplís todo? Es lo normal — tu dossier gratis te dice qué gaps tenés y cómo cubrirlos en la entrevista.

LLMsagentic systemsbenchmarkingreproducible evaluationsandboxed executiontrace analysistask success metricsquality evaluationrobustness testingheterogeneous accelerators

¿A quién escribirle en Callosum?

Tu dossier gratis identifica a las personas que te entrevistarían — con su background, qué valoran y cómo escribirles para destacar antes de aplicar.

About Us We’re living through a Cambrian explosion of intelligence: new models and new chips, each specialised for different tasks, are arriving all at once. The result is a new era for AI, one of radical heterogeneity. Callosum is the Intelligent Systems Company. We believe the next generation of AI won't be defined by any single model or chip, but by intelligent systems in which hardware and intelligence co-evolve. We are building the infrastructure that unifies heterogeneous compute across the full stack. This opens a new axis of scaling intelligence: a dynamic system that tailors itself to what each workload actually needs, whether that's speed, cost, precision, or whatever unit comes next. The last era scaled on a different bet: one bigger model, more of the same chip, more data. That bet is running into structural limits. Frontier models offer extraordinary capability at unsustainable cost, one that today's monolithic infrastructure was never designed to serve. Our founding principle is that intelligence comes from many specialised systems working together, not from any single component. We build the software orchestration layer that co-evolves models, workflows and silicon into one system, delivering inference tailored to every workload, and demonstrating orders-of-magnitude leaps in capability and cost. Because our software spans the full stack, our engineering team works directly with heterogeneous accelerators and frontier silicon, including Cerebras, d-Matrix, Intel, NVIDIA, AMD, Normal Computing, Tenstorrent, GreatSky, and Mixx. We are not stopping at today's chips: each new generation of silicon unlocks algorithms that couldn't run before, and we intend to be first to them, every time. If we get it right, it will belong to everyone building on it - not to any single vendor. In our latest funding round, we raised $100M, led by Atomico with participation from Plural, DCVC and the UK Sovereign AI Fund’s first investment. With this, we are building the infrastructure for the next era of intelligence. We are engineers and scientists based in London, working across the full depth of the stack. We are curious, intellectually honest, and building what doesn't exist yet. If you thrive on uncharted territory and are energised by the scale of the challenge, we'd love to hear from you. About the Role Choosing between algorithmic strategies for multi-step LLM work is a measurement problem, and most teams solve it badly: comparisons run case by case, by whoever needs them that week, on whatever task is closest to hand. That doesn't scale, and it doesn't hold up to outside scrutiny - from a customer, or from a reviewer. Callosum needs one benchmarking system: reproducible, contamination-controlled, and trusted enough to be the evidence that decides which approach ships. This role owns that system. You will build a harness that measures task success, quality, and robustness across motifs, agent topologies, and decomposition strategies, grounded in execution - real commits, real traces, sandboxed grading - rather than self-reported or model-graded scores. The results become the proof points we show customers, the evidence behind the benchmarks we co-publish, and the basis on which an approach ships or doesn't. This is a research hire that builds. We expect the rigour of a strong evaluation paper applied to a production system, and the engineering ability to design, build, and curate it yourself rather than hand it off. What You'll Build Design and build a unified system for evaluating agentic and algorithmic solutions - task success, quality, and robustness across motifs, agent topologies, and decomposition strategies, on workloads that match what customers actually run. Cost per resolved task is an outcome you track, not the object of the exercise.

¿Buscando algo parecido?

Dejá tu email y te avisamos cuando salgan vacantes que coincidan con tu perfil.

No apliques sin prepararte

Investigamos quién te entrevista, adaptamos tu CV y te ensayamos en vivo — gratis la primera.

InterviewHack.ai

Preparate para la entrevista exacta: quién te entrevista, tu CV a medida y coach real.

Producto

VacantesEmpresas contratandoTodas las herramientasVeredicto de CV (Jev)Cover letter gratisPreguntas de entrevista por rolSimulador de test técnico"Hablame de vos" (respuesta)Revisar CV (ATS) gratis¿Cómo suena tu inglés?¿Te pagan bien?Guion de negociación salarialRespuesta STAR gratisTitular + About de LinkedInReporte de sueldos LATAMCursos gratisBlogCV a medidaPráctica habladaPreciosAfiliados — 30%

Empleos remotos

ReactPythonFull-StackLATAMArgentinaMéxicoVer todas →

Preparate

Práctica habladaFrontendBackendAI EngineerPor empresaVendete con tu CV

Empresa

Buscás talentoAcerca deContactoPrivacidadTérminos

© 2026 InterviewHack.ai · Tu CV es tuyo. Nunca se usa para entrenar nada. · Un producto de IA-PTY

Vacantes similares activas

Networking & Interconnect Systems - Member of Technical Staff

Callosum · London

→

ML Research Engineer - Member of Technical Staff

Callosum · London

→

Security Lead - Member of Technical Staff

Callosum · London

→

Evolutionary Optimisation - Member of Technical Staff

Callosum · London

→