Karl-Heinz Oehler hukuk eğitimini Hamburg Üniversitesi'nde almıştır. Hukuk stajının ardından (Avrupa Komisyonu Dış İlişkiler Genel Müdürlüğü'nde bir modül de dahil olmak üzere) Saarland Üniversitesi Anayasa ve Uluslararası Kamu Hukuku Kürsüsü'nde akademik asistan olarak çalıştı. 1983 yılında Hamburg'da hakim oldu ve geçici olarak Devlet Hukuk Sınavları Bürosunda asistan olarak çalıştı. Karl-Heinz Oehler 1989 yılında Federal Adalet Bakanlığı'nda göreve başlamış ve burada diğer görevlerinin yanı sıra Uluslararası Antlaşmalar Hukuku Bölüm Başkanı, Özel Hukuk Daire Başkanı ve Avrupa ve Uluslararası Kamu Hukuku Daire Başkanı olarak görev yapmıştır. Öne çıkan görevleri: Schengen Sözleşmesi müzakereleri (AB'de sınır kontrollerinin kaldırılması), NATO Güçleri Anlaşması'na ek gözden geçirilmiş anlaşma müzakereleri, AB Antlaşması'nın 36. maddesi uyarınca Kıdemli Memurlar Komitesi temsilcisi (polis ve adli işbirliği); tüketicinin korunması alanında çeşitli direktifler üzerinde müzakereler. Henüz gerçekleşmeyen istekleri: devletlerin iflasına ilişkin bir sözleşme ve bir Avrupa Medeni Kanunu. Karl-Heinz Oehler 2015 yılında emekli olmuştur. 2016 yılından bu yana Türk-Alman Üniversitesi'nde ağırlıklı olarak Uluslararası Kamu Hukuku ve AB Hukuku alanlarında dersler vermektedir. - Avrupa Hukuk Enstitüsü'nün (Viyana) "Sürekli Üyesidir".