Senior Software Engineer – Sichere KI-Infrastruktur

Permanent employee, Full-time · Remote (Berlin), Bochum, Berlin

80,000 - 120,000 € per year

Hallo, wir sind Edgeless Systems

Wir sind ein schnell wachsendes Cybersecurity-Startup. Werde Teil unseres Teams und entwickle mit uns die nächste Generation sicherer KI- und Cloud-Software. Erkunde zukunftsweisende Technologien wie Confidential Computing und wachse gemeinsam mit einem erstklassigen Team.

Unser Produkt
Privatemode AI ist unsere sichere Alternative zu ChatGPT. Es ermöglicht KI-Workflows mit sensiblen Daten, indem alle Daten – selbst während der Verarbeitung – mit Confidential Computing verschlüsselt bleiben. Du kannst Privatemode über eine benutzerfreundliche App oder eine vollständig OpenAI-kompatible API nutzen.

Überzeug dich selbst: Ein Großteil unseres Codes ist auf GitHub verfügbar.

Unser Tech-Stack

API: Go, Kubernetes
RAG: Python, Qdrant
Model Hosting: Python, vLLM
Skalierung: Pipeline-/Tensor-Parallelismus, optimiert für Nvidia H100 und B200
Portal und App: TypeScript, React, Electron

Deine Aufgaben

Als Teil unseres Teams arbeitest du an der Privatemode-Plattform – von Frontend über Backend bis hin zum Model Hosting. Zu deinen Aufgaben gehören:

Erweiterung unserer OpenAI-kompatiblen API und vertraulichen Verarbeitungs-Stacks
Entwicklung von RAG-Funktionalitäten, Embedding-Pipelines und Agent-Logik
Hosting und Performance-Optimierung moderner Open-Source-LLMs
Skalierung von Modellen durch Parallelisierung und effiziente GPU-Orchestrierung
CI/CD-Automatisierung und Dokumentation
Prototyping und Umsetzung neuer Ideen

Als Senior Software Engineer unterstützt du zudem weniger erfahrene Teammitglieder in ihrer Weiterentwicklung.

Dein Profil

Wir suchen Teammitglieder, die …

herausragende technische Fähigkeiten besitzen
Erfahrung in einem relevanten Teil unseres Tech-Stacks mitbringen
begeistert sind von den Herausforderungen eines schnelllebigen, innovativen Startup-Umfelds
Erfahrung in professionellen agilen Software-Entwicklungspraktiken haben
intrinsisch motiviert sind, qualitativ hochwertige Arbeit zu liefern

Warum wir?

Wettbewerbsfähige Vergütung (Gehalt und Aktienoptionen)
Möglichkeit, in einem exzellenten Team zu lernen und zu wachsen
Flexible Arbeitsmodelle – remote oder in unseren Büros in Bochum und Berlin
Spannende Aufgaben in einem dynamischen Umfeld

Apply for this job

Hi there, we are Edgeless Systems

We are a fast-growing cybersecurity startup. Join us in developing the next generation of secure AI and cloud software, explore cutting-edge technologies like confidential computing, and grow in and alongside a world-class team

Our product
Privatemode AI is our secure alternative to ChatGPT. It enables AI workflows with sensitive data by keeping all data encrypted—even during processing—using confidential computing. You can access it via a user-friendly app or a fully OpenAI-compatible API.

See for yourself: Most of our code is available on GitHub.

Our tech stack

API: Go, Kubernetes
RAG: Python, Qdrant
Model hosting: Python, vLLM
Scaling: pipeline/tensor parallelism, optimization for Nvidia H100 and B200
Portal and app: TypeScript, React, Electron

Your mission

As part of our team, you’ll work on the Privatemode platform across frontend, backend, and model hosting. Tasks include:

Extending our OpenAI-compatible API and confidential processing stack
Building RAG features, embedding pipelines, and agent functionality
Hosting and optimizing the performance of cutting-edge open-source LLMs
Scaling models using parallelism and efficient GPU orchestration
CI/CD automation and documentation
Prototyping and iterating on new features

As a Senior Software Engineer, you also help less experienced team members with their personal development.

Your profile

We are looking for team members who…

have outstanding technical capabilities
are experienced in a relevant subset of the technologies outlined above
are excited about the challenges of a fast-paced, innovative startup environment
are experienced in professional agile software-development practices
are inherently motivated to deliver high-quality work

Why us?

Competitive compensation (salary and stock options)
Opportunity to learn and grow within an outstanding team
Flexible working arrangements—remote or in our offices in Bochum and Berlin
Exciting tasks in a dynamic environment

Apply for this job

Apply now

Thank you for your interest in Edgeless Systems GmbH. Please fill out the following short form. If you have difficulties with the upload of your data, please send an email to careers(at)edgeless.systems .