촉매 수소화 과환원 방지 방법 총정리: 니켈/팔라듐 선택성과 공정 제어

이 글의 목적은 니켈(Raney Ni, Ni/C)과 팔라듐(Pd/C, Pd(OH)2 등) 촉매를 사용하는 수소화에서 과환원을 예방하는 실무 제어 포인트를 체계적으로 정리하여, 원하는 작용기만 선택적으로 환원하고 재작업과 수율 저하를 줄이도록 돕는 것이다.

1. 과환원이 발생하는 이유와 대표 패턴

1) 과환원의 정의와 실무적 의미

과환원은 목표 결합 또는 작용기 환원 이후에도 반응이 계속 진행되어 다른 결합까지 추가로 환원되는 현상이다.

과환원은 선택성 손실, 불순물 증가, 분리 정제 부담 증가, 귀금속 촉매 비용 증가로 직결되기 때문에 반응 설계 단계에서 예방하는 것이 핵심이다.

2) 니켈/팔라듐에서 흔한 과환원 사례

  • 알킨을 알켄으로 만들고 싶은데 알케인까지 진행되는 경우이다.
  • 벤질 보호기(예: 벤질 에터, Cbz)가 의도치 않게 제거되는 경우이다.
  • 할로젠화 방향족에서 탈할로젠화가 동반되는 경우이다.
  • 니트로 환원 후 더 진행되어 과도한 수소첨가 부반응이 늘어나는 경우이다.
  • 비활성으로 보이던 방향족 고리가 고압·고온에서 부분 수소화되는 경우이다.
주의 : “니켈은 거칠고 팔라듐은 부드럽다” 같은 단순 구분은 실무에서 오판을 유발하기 쉽다. 동일한 금속이라도 담지체, 입자 크기, 전처리, 용매, 산·염기, 불순물에 따라 선택성이 크게 바뀌는 것이 정상이다.

2. 촉매 선택이 과환원을 좌우하는 구조적 이유

1) Pd 계열이 과환원을 유발하는 대표 상황

Pd는 수소 활성화와 표면 흡착이 강한 편이라서 목표 전환 이후에도 반응 혼합물에 남아 있으면 추가 환원이 쉽게 이어지는 경향이 있다.

Pd/C는 벤질계 보호기 제거와 같이 수소분해 성격의 반응을 잘 수행하기 때문에, 보호기가 공존하는 기질에서는 의도치 않은 탈보호 과환원이 나타나기 쉽다.

또한 Pd는 조건에 따라 C–X 결합의 탈할로젠화가 동반될 수 있어, 할로젠을 유지해야 하는 합성에서는 위험 요인이다.

2) Ni 계열이 과환원을 유발하는 대표 상황

Raney Ni는 표면적이 크고 반응성이 강해, 불포화 결합이 연속적으로 흡착·수소첨가되면서 알켄 정지 대신 알케인까지 진행되는 상황이 흔하다.

또한 Ni는 황·질소 화합물, 염, 물의 영향으로 활성 변동이 크기 때문에, 같은 레시피라도 배치 간 과환원 편차가 발생하기 쉽다.

3) “선택성”을 촉매 스펙으로 분해하는 관점이다

선택성은 단일 요인이 아니라 “목표 결합 흡착 우선순위”, “수소 공급 속도”, “생성물의 재흡착 가능성”, “촉매 표면 독성(poisoning) 민감도”의 합성 결과이다.

따라서 과환원 방지는 촉매만 바꾸는 문제가 아니라, 촉매-기질-용매-첨가제-압력-온도-교반-정지 절차를 하나의 시스템으로 설계하는 문제이다.

3. 과환원 방지의 핵심 전략 8가지

전략 1) 목표 결합에 맞는 “정지형 촉매”를 쓰는 방법이다

알킨을 시스-알켄에서 멈추게 하려면 일반 Pd/C 대신 부분 수소화용 촉매(예: Lindlar 계열)를 고려하는 것이 정석이다.

반대로 반드시 완전 수소화가 필요하면 처음부터 그 목적에 맞는 촉매와 조건을 사용하여 애매한 중간 정지 운전을 피하는 것이 재현성 측면에서 유리하다.

전략 2) 촉매 로딩을 낮추고 반응 시간을 짧게 가져가는 방법이다

과환원은 목표 전환 달성 후 “남아 있는 촉매”가 주도하는 경우가 많다.

따라서 촉매량을 낮추고, 교반과 기체-액체 전달을 개선하여 목표 전환까지의 시간을 단축하는 것이 과환원 리스크를 낮추는 방향이다.

전략 3) 수소의 “유효 공급 속도”를 제한하는 방법이다

압력을 낮추거나, 수소 대신 수소/질소 혼합가스를 사용하거나, 기체 유량을 제한하면 표면 수소 피복률이 낮아져 과환원이 줄어드는 경우가 많다.

이 방법은 특히 Pd 계열에서 목표 반응이 빠르고 부반응이 느린 시스템에서 효과가 크다.

주의 : 압력을 낮추면 반응이 느려져 오히려 체류 시간이 늘고 과환원이 증가하는 시스템도 존재하다. 이때는 압력 조절이 아니라 촉매 선택, 첨가제, 정지 절차를 먼저 점검하는 것이 합리적이다.

전략 4) 용매로 선택성을 조절하는 방법이다

용매는 기질의 흡착, 수소 용해도, 촉매 표면의 전하 상태를 바꿔 선택성을 바꾼다.

예를 들어 프로틱 용매는 특정 작용기의 흡착을 약화시키거나 촉매 표면 반응성을 달리하여 과환원 양상을 바꿀 수 있다.

반대로 방향족 용매나 강한 배위성 용매는 촉매 표면을 부분적으로 점유하여 반응 속도와 선택성을 동시에 바꾸는 경우가 있다.

전략 5) 첨가제로 촉매 표면을 “의도적으로 둔화”시키는 방법이다

선택적 수소화에서는 촉매 독성 물질을 미량 사용해 과환원 경로를 억제하는 설계가 실무적으로 자주 쓰인다.

질소계 첨가제(예: 피리딘류), 황계 미량 성분, 또는 특정 알칼로이드류는 촉매 표면에 흡착해 과도한 수소첨가를 완화하는 역할을 할 수 있다.

다만 첨가제는 시스템별로 효과가 정반대로 나타날 수 있으므로, 스크리닝에서 “목표 전환 속도”와 “부반응 증가 여부”를 동시에 확인해야 한다.

전략 6) 반응 모니터링을 “정량적”으로 바꾸는 방법이다

TLC만으로 정지 시점을 판단하면 목표 생성물과 과환원 생성물이 같이 움직이는 경우 오판이 발생하다.

가능하면 GC, HPLC, NMR 중 하나를 정량 지표로 삼아 목표 전환(예: 95%)에서 즉시 정지하도록 공정 기준을 세우는 것이 재현성에 유리하다.

특히 스케일업에서는 “샘플링 간격” 자체가 과환원에 영향을 주므로, 샘플링-분석-정지까지의 시간을 SOP로 고정하는 것이 중요하다.

전략 7) 정지 절차를 반응의 일부로 설계하는 방법이다

목표 전환에 도달해도 촉매가 용액에 남아 있고 수소가 잔존하면 과환원은 계속 진행하다.

따라서 정지는 “수소 차단 → 가스 치환 → 촉매 신속 제거 → 촉매 잔존 활성 제거”의 순서로 설계하는 것이 안전하다.

# 실무에서 자주 쓰는 정지 절차 예시(개념 SOP)이다. 1) 수소 공급을 즉시 차단하다. 2) 반응기 헤드스페이스를 질소로 2~3회 치환하다. 3) 교반을 유지한 채로 촉매를 신속히 여과하다(가능하면 불활성 분위기에서 수행하다). 4) 필요 시 촉매 잔존 활성 억제용 처리(촉매 스캐빈저 또는 적절한 퀀치)를 적용하다. 5) 여액을 즉시 다음 공정으로 이동하거나 저온 보관하다.
주의 : 촉매가 건조 상태로 공기와 접촉하면 발열·발화 위험이 증가하다. 여과 케이크는 항상 젖은 상태로 관리하고, 폐촉매는 내부 규정에 따라 불활성화 후 처리해야 하다.

전략 8) 기질 설계를 통해 과환원 민감도를 낮추는 방법이다

같은 기능기도 주변 치환기와 전자 효과에 따라 수소화 속도가 달라진다.

과환원 위험이 큰 시스템에서는 보호기 선택을 바꾸거나, 반응 순서를 조정하여 Pd 민감 결합을 뒤로 미루는 방식이 전체 수율과 공정 안정성을 높이는 경우가 많다.

4. 니켈 vs 팔라듐 선택 가이드 표

상황 과환원 위험 포인트 우선 고려 촉매/조건 실무 제어 포인트
알킨 → 알켄에서 정지 알케인까지 연속 수소첨가가 발생하다 부분 수소화용 촉매를 우선 검토하다 저압, 짧은 시간, 정량 모니터링으로 즉시 정지하다
벤질 보호기 공존 Pd에서 수소분해로 탈보호가 동반될 수 있다 촉매 변경 또는 조건 완화가 필요하다 촉매 로딩 최소화, 첨가제 스크리닝을 병행하다
할로젠 유지가 필수 탈할로젠화가 불순물로 생길 수 있다 촉매/조건을 보수적으로 선택하다 압력·온도 상승을 피하고, 반응 시간 관리가 핵심이다
강한 환원이 필요 다중 작용기 동시 환원이 발생하다 목표 우선순위에 맞는 촉매를 쓰다 기질 설계, 반응 순서 변경을 포함해 공정으로 풀다
스케일업(열/질량전달 변화) 현장 전달속도 증가로 과환원 구간이 짧아지다 파일럿 조건에서 재스크리닝하다 샘플링 간격, 정지 SOP, 여과 시간까지 고정하다

5. 공정 변수별 과환원 억제 체크리스트

1) 압력

압력은 수소 용해도와 촉매 표면 수소 농도를 올리는 방향이라서 과환원 가능성을 키울 수 있다.

목표 반응이 충분히 빠르면 가능한 한 낮은 압력에서 운전하는 것이 안전하다.

2) 온도

온도는 반응 속도를 올리지만 선택성을 악화시키는 경우가 많다.

특히 방향족 고리 수소화나 의도치 않은 수소분해는 온도 상승에서 급격히 증가하는 경향이 있어, 가능한 저온에서 시작해 필요 시 단계적으로 올리는 방식이 유리하다.

3) 산/염기와 염

산성 조건은 특정 보호기나 작용기의 안정성을 떨어뜨려 “환원 + 분해” 형태의 불순물을 만들 수 있다.

염기성 조건은 표면 흡착 양상을 바꿔 선택성을 바꾸므로, pH 또는 염기 당량을 공정 변수로 관리해야 한다.

4) 촉매 품질과 전처리

같은 Pd/C라도 제조사, 습윤 상태, 탄소 담지체 특성, 금속 함량, 불순물에 따라 반응성이 달라진다.

배치 간 재현성이 문제라면 촉매 로트 관리, 입고 시험(간단한 표준 반응으로 활성 확인), 동일한 전처리 절차를 적용하는 것이 필요하다.

6. 자주 발생하는 문제와 해결 로직

문제 1) 목표 전환에 도달하기 전에 반응이 너무 느리다

교반이 약하거나 가스-액체 전달이 부족하면 반응이 지연되고 체류 시간이 늘어 과환원 위험이 커지다.

이 경우 촉매를 늘리기 전에 교반, 기체 분산, 반응기 헤드스페이스, 수소 공급 방식부터 점검하는 것이 우선이다.

문제 2) 목표 전환 도달 후 아주 짧은 시간에 과환원이 급격히 발생한다

생성물이 촉매에 더 잘 흡착하거나, 목표 생성물이 과환원 경로의 기질이 되는 시스템일 가능성이 높다.

이 경우 정지 SOP를 강화하고, 촉매 로딩을 낮추며, 첨가제 또는 촉매 변경으로 “정지 구간”을 넓혀야 한다.

문제 3) 여과 후에도 과환원 생성물이 늘어난다

여액에 미세 촉매가 통과했거나, 용존 금속이 잔존해 반응이 계속되는 상황일 수 있다.

여과 보조제, 더 촘촘한 필터, 촉매 스캐빈저 적용을 검토하고, 수소가 완전히 제거되었는지 가스 치환 절차를 점검해야 한다.

7. 현장에서 바로 쓰는 “과환원 방지” 운영 기준 예시

항목 권장 운영 기준 기록 방식 과환원 예방 효과
촉매 로딩 최소 유효 로딩으로 설정하다 wt% 또는 mol%로 배치 시트에 기록하다 목표 전환 이후 잔존 촉매 영향을 줄이다
샘플링 간격 목표 구간에서 간격을 더 촘촘히 하다 시간-전환 데이터로 로그화하다 정지 시점 오차를 줄이다
정지 절차 수소 차단→질소 치환→즉시 여과를 고정하다 SOP 체크리스트 서명으로 관리하다 정지 지연으로 인한 과환원을 막다
여과 품질 미세 촉매 통과 방지 조건을 표준화하다 필터 규격, 보조제 사용량을 기록하다 여액 후반 과환원을 줄이다
스케일 변경 스케일업 시 조건 재검증을 의무화하다 파일럿 데이터 첨부를 요구하다 전달속도 변화로 인한 선택성 붕괴를 막다

FAQ

니켈과 팔라듐 중 과환원이 더 심한 쪽은 무엇이다?

일반화하기 어렵다. 과환원은 금속 종류보다 기질의 흡착 특성, 촉매 형태, 압력·온도, 용매, 정지 절차가 합쳐져 결정되는 현상이다. 따라서 동일 기질에 대해 소규모 스크리닝으로 “목표 전환 창(window)”이 더 넓은 시스템을 선택하는 것이 실무적으로 정확하다.

목표 생성물이 촉매에 남아 과환원되는 것을 막는 가장 확실한 방법은 무엇이다?

정지 절차를 강화하는 방법이 가장 직접적이다. 수소를 즉시 차단하고 불활성 가스로 치환한 뒤 촉매를 신속히 제거하는 것이 핵심이다. 여과 후에도 반응이 진행되면 미세 촉매 통과 또는 용존 금속을 의심하고 여과 체계와 후처리를 개선해야 하다.

TLC로는 문제가 없는데 제품이 과환원된 경우가 반복된다. 원인은 무엇이다?

TLC 분리도가 낮아 목표 생성물과 과환원 생성물이 겹치는 경우가 흔하다. 또한 샘플링-분석-정지까지의 지연 시간이 스케일에서 커지면, 그 시간 동안 반응이 진행되어 결과가 달라지다. 정량 분석 지표를 도입하고 샘플링 간격과 정지 SOP를 고정하는 것이 필요하다.

첨가제로 촉매를 둔화시키면 수율이 떨어지지 않나?

목표 반응 속도는 일부 감소할 수 있다. 그러나 과환원으로 인한 불순물 증가와 정제 손실을 줄이면 총 수율이 오히려 개선되는 경우가 많다. 따라서 “반응 시간”만이 아니라 “목표 선택성, 정제 수율, 배치 재현성”을 포함한 총합 기준으로 판단해야 하다.