Heck 반응 선택성 제어 방법 총정리: 위치선택성·E/Z·과반응까지 조건 설계로 잡는 실무 가이드

이 글의 목적은 Heck 반응(미조로키-헤크 반응)에서 자주 문제되는 선택성 저하를 원인별로 분해하고, 촉매·리간드·염·염기·용매·농도·온도·첨가제 설계를 통해 위치선택성, 입체선택성(E/Z), 단일결합 형성(과반응 억제)을 재현성 있게 확보하는 방법을 실무 관점으로 정리하는 것이다.

1. Heck 반응 선택성의 종류를 먼저 정의하다

Heck 반응에서 “선택성”은 단일 축이 아니라 여러 축의 합성 성능지표로 정의하는 것이 실무에 유리하다.

1) 위치선택성(regioselectivity)이다

치환 알켄(특히 비대칭 알켄)에서 아릴/비닐기의 도입 위치가 달라지는 현상이다. 말단 알켄에서는 선호 위치가 비교적 예측 가능하지만, 내부 알켄·기능기 치환 알켄에서는 경로가 바뀌기 쉽다.

2) 입체선택성(stereoselectivity)이다

주로 알켄 생성물의 E/Z 비율로 나타난다. 반응 중 재이성화가 개입되면 “생성 단계 선택성”과 “반응 후 선택성”이 섞여 관찰되기 때문에 구분이 필요하다.

3) 화학선택성(chemoselectivity)이다

기질 내 다중 반응점(C–X, C–OTf, 알켄 다중 존재, 알킨 동시 존재, 산성 수소 존재 등) 중 어느 반응점이 우선 반응하는지의 문제이다.

4) 과반응 선택성(단일결합 형성 vs 과아릴화)이다

특히 생성물에 또 다른 반응 가능한 알켄이 남거나, 생성물이 기질보다 더 반응성이 높을 때 과아릴화·중합·이성화가 동반되기 쉽다.

주의 : 선택성 문제를 “촉매를 바꾸면 해결된다”로 단순화하면 재현성 있는 개선이 어렵다. 목표 선택성이 무엇인지(위치, E/Z, 단일결합, 화학선택성)부터 분리 정의한 뒤, 반응 경로를 바꾸는 인자와 후처리 중 변하는 인자를 구분해야 한다.

2. 선택성을 결정하는 핵심 반응 단계 4가지를 기준으로 원인을 분해하다

Heck 반응은 촉매 사이클이 여러 갈래로 분기할 수 있다. 선택성은 보통 아래 4단계 중 어디에서 분기하는지로 진단하는 것이 빠르다.

1) 산화적 첨가(oxidative addition) 단계이다

아릴 할라이드/트리플레이트의 활성화 속도와 선택성이 결정된다. 전자결핍/전자풍부 기질, 할라이드 종류, Pd(0) 종의 전자밀도, 리간드의 벌키함이 크게 작용한다.

2) 알켄 배위 및 삽입(migratory insertion) 단계이다

위치선택성과 초기 E/Z 경향이 사실상 여기에서 정해지는 경우가 많다. 중성 경로(할라이드 보유)와 양이온성 경로(할라이드 이탈 또는 스캐빈징)가 삽입 방향을 바꿀 수 있다.

3) β-수소 제거(β-hydride elimination) 단계이다

알켄 생성과 동시에 Pd–H 종이 생성된다. 이 단계가 느리거나 경쟁 반응이 생기면 이성화, 체인 워킹, 환원 부산물 등으로 이어질 수 있다.

4) Pd–H 처리 및 촉매 재생 단계이다

염기, 용매, 염(할라이드), 수소 수용체(있다면) 조건이 Pd–H의 운명을 결정한다. 이 구간이 불안정하면 생성물 이성화(E/Z 변환)나 기질 알켄 이성화가 크게 증가한다.

3. 선택성 제어의 “레버(조절 손잡이)”를 체계적으로 정리하다

1) 리간드 설계로 경로를 바꾸다

리간드는 산화적 첨가 속도, 삽입 방향, β-수소 제거 용이성, Pd–H 안정성을 동시에 좌우한다. 실무에서는 “전자 풍부 + 벌키” 리간드가 산화적 첨가를 촉진하면서도 원치 않는 재배위를 줄이는 방향으로 작동하는 경우가 많다. 반대로 지나치게 벌키하면 배위/삽입이 제한되어 반응 자체가 느려지고, 느린 조건은 이성화·부반응 시간을 늘려 선택성을 악화시키기도 하다.

조절 인자 선택성에 미치는 대표 영향 악화 신호 개선 방향 예시
리간드 전자성 산화적 첨가 및 Pd–H 성질 변화 반응 지연, 이성화 증가 더 전자풍부 리간드로 전환하거나 Pd 로딩 최적화하다
리간드 벌키함 삽입 방향 및 과반응 억제에 영향 전환율 급감 또는 과아릴화 중간 벌키 리간드로 단계적으로 스크리닝하다
킬레이트(바이덴테이트) 성향 재배위 억제, 이성화 억제 또는 반응성 저하 E/Z 붕괴, 체인 워킹 이성화가 크면 킬레이트 성향을 높이거나 Pd–H 억제 조건을 병행하다

2) 할라이드/염(anion) 환경으로 “중성 vs 양이온성” 경로를 조절하다

양이온성 경로는 알켄 삽입의 위치선택성을 바꾸는 강력한 레버가 될 수 있다. 반대로 할라이드가 축적되면 Pd 중심이 “중성·할라이드 포화” 성향으로 기울어 삽입 선택성이나 속도가 달라질 수 있다. 따라서 선택성 문제가 있을 때 “기질 구조”만 보지 말고, 반응액에 축적되는 할라이드와 염기-염 생성물까지 포함해 이온 환경을 관리해야 한다.

주의 : 할라이드 스캐빈저 또는 은염 같은 첨가 전략은 반응 경로를 크게 바꿀 수 있으나, 기질에 산소·질소 기능기가 많으면 예상치 못한 착물화나 염 침전으로 재현성이 흔들릴 수 있다. 첨가제는 투입 순서와 수분 관리까지 함께 고정해야 한다.

3) 염기 선택은 “전환율”이 아니라 “Pd–H 처리” 관점으로 잡다

염기는 단순히 HX를 잡는 역할을 넘어 Pd–H 종의 소멸 경로를 좌우한다. Pd–H가 오래 남으면 기질/생성물 알켄의 이성화가 증가하기 쉽다. 따라서 E/Z 붕괴가 관찰되면 염기의 강도뿐 아니라 용해도, 염(halide) 형성 후의 이온쌍 성질, 반응액 점도 변화까지 고려해야 한다.

4) 용매는 “극성”만이 아니라 “염 용해도·기질 배위·열 관리”까지 포함하다

선택성이 흔들릴 때 용매를 바꾸면 갑자기 해결되는 경우가 있는데, 이는 용매가 양이온성 경로 촉진, 염기·염의 용해도, Pd 종의 안정성, 열전달을 동시에 바꾸기 때문이다. 특히 고점도 조건은 국소 과열과 농도 구배를 유발해 과반응과 중합을 촉진하기도 하다.

5) 농도·가스 관리·교반은 “반응속도”가 아니라 “부반응 시간 창”을 줄이는 도구이다

선택성이 나쁜 반응은 종종 “느리게 진행되는 동안 이성화·중합·과아릴화가 따라오는” 구조이다. 이때 단순히 촉매를 늘리면 과반응도 같이 증가할 수 있다. 오히려 농도, 희석, 투입 방식(분할 투입), 교반 효율, 온도 램프를 조절해 원하는 경로만 빠르게 통과시키는 고려가 필요하다.

4. 문제 유형별로 선택성 개선 전략을 매칭하다

4.1 위치선택성이 흔들리는 경우이다

비대칭 알켄에서 위치선택성은 삽입 단계와 이온성 경로의 영향을 강하게 받는다. 실무에서는 아래 순서로 레버를 움직이는 것이 시행착오를 줄인다.

  • 첫째, 할라이드 축적을 줄이거나(염 선택, 투입 순서) 이온 환경을 정리하다
  • 둘째, 리간드 벌키함을 단계적으로 바꾸어 삽입 방향성을 조절하다
  • 셋째, 온도를 낮춰 재배위·이성화 시간을 줄이고, 반응 시간을 짧게 설계하다
  • 넷째, 필요 시 기질 농도와 알켄 과량 비율을 조절해 우세 경로를 강화하다

4.2 E/Z 비율이 반응 후 붕괴하는 경우이다

초기 생성물은 한쪽(E 또는 Z)으로 잘 나오는데 시간이 지날수록 E/Z가 섞이면 Pd–H 또는 염기 조건에서 이성화가 진행된 가능성이 크다. 이때는 “생성 단계”가 아니라 “생성 후 이성화”를 막는 처방이 유효하다.

  • Pd–H 체류 시간을 줄이기 위해 염기/용매 조합을 재설계하다
  • 불필요한 고온 유지 시간을 줄이고, 목표 전환율 도달 즉시 냉각·퀀치하다
  • 촉매 로딩을 올리기보다 활성 종을 안정화하는 방향(리간드, 전처리)을 우선 검토하다
  • 교반 불량이나 국소 과열이 있으면 이성화가 급증하므로 공정 조건을 먼저 고정하다

4.3 과아릴화·중합이 동반되는 경우이다

과반응은 “생성물이 더 반응성 높은 기질로 바뀌는” 구조에서 흔하다. 따라서 전환율을 욕심내기보다 목표 생성물에서 즉시 멈추는 조건을 만들어야 한다.

  • 기질을 분할 투입하여 반응액 내 반응성 기질 농도를 낮추다
  • 알켄 과량을 줄이거나 반대로 크게 늘려 중합 경향을 억제하는 쪽으로 실험적으로 확인하다
  • 촉매가 과도하게 활성일 때는 리간드/염 환경을 조정해 “선택적 활성”을 만들다
  • 반응 종료 시점 판단을 TLC 하나로 고정하지 말고, 시간-전환율-선택성 프로파일을 확보하다

5. 선택성 최적화는 실험 설계(DoE)로 접근해야 재현성이 생기다

선택성은 변수 상호작용이 강하다. 따라서 한 번에 하나씩 바꾸는 방식은 “우연히 좋아진 조건”을 남기기 쉽다. 최소한의 실무형 매트릭스를 구성해 교호작용을 읽는 것이 유리하다.

5.1 최소 스크리닝 매트릭스 예시이다

변수 레벨 A 레벨 B 관찰 포인트
리간드 전자풍부/벌키 계열 중간 벌키/킬레이트 성향 전환율, 위치선택성, E/Z, 과반응
염기 용해도 높은 약~중염기 강염기 또는 비친핵성 염기 Pd–H 유발 이성화 징후
용매 중간 극성 용매 극성 용매 또는 혼합 용매 염 용해도, 반응 속도, 침전 유무
온도 저온(선택성 우선) 고온(속도 우선) 선택성 붕괴 시점, 종료 타이밍

5.2 데이터 기록 방식의 표준화를 권장하다

선택성 최적화에서는 “최종 샘플 1개”보다 “시간에 따른 선택성 변화”가 더 중요하다. 아래와 같이 기록하면 원인 진단이 빨라진다.

시간(h), 전환율(%), 목표생성물(%), 위치이성질체합(%), E/Z, 과반응물(%), 비고 0.5, 20, 18, 2, 9/1, 0, 침전 없음 1.0, 45, 38, 7, 8/2, 0, 발열 관찰 2.0, 75, 55, 20, 6/4, 3, E/Z 붕괴 시작 3.0, 90, 58, 25, 5/5, 7, 과반응 증가
주의 : E/Z가 시간이 지날수록 변하면 “샘플링 후 분석 대기 시간”에서도 변할 수 있다. 샘플 퀀치 조건과 분석까지의 시간을 표준화하지 않으면 조건 비교가 왜곡된다.

6. 실무 트러블슈팅 체크리스트로 빠르게 원인을 좁히다

6.1 반응이 느리면서 선택성이 나쁜 경우이다

  • 촉매 활성화가 불완전한지 확인하다
  • 할라이드 축적 또는 염 침전에 의해 활성 종이 묶였는지 확인하다
  • 교반이 약해 국소 농도 구배가 생기는지 확인하다
  • 느린 반응 시간을 줄이는 처방(온도 램프, 전처리, 분할 투입)을 우선 적용하다

6.2 전환율은 높은데 E/Z와 위치선택성이 동시에 무너지는 경우이다

  • Pd–H에 의한 이성화 가능성을 우선 의심하다
  • 염기/용매 조합을 바꿔 Pd–H 소멸 경로를 조정하다
  • 반응 종료 시점과 퀀치 절차를 앞당기다

6.3 특정 로트에서만 선택성이 흔들리는 경우이다

  • 용매 수분, 염기 순도, 기질 내 미량 할라이드/황·인 불순물을 점검하다
  • 촉매/리간드 투입 순서와 전처리 시간을 고정하다
  • 반응기 벽면 흡착 또는 금속 오염 가능성을 점검하다

7. 선택성 목표별 권장 전략을 한 장으로 정리하다

목표 우선 조절 인자 권장 실험 순서 피해야 할 함정
위치선택성 개선 이온 환경, 리간드 벌키함 염/첨가제 → 리간드 → 온도 → 농도 전환율만 올려 과반응을 키우다
E/Z 유지 Pd–H 억제, 종료 타이밍 염기/용매 → 온도/시간 → 촉매 전처리 분석 지연으로 인한 가짜 붕괴를 만들다
과아릴화 억제 투입 전략, 농도, 리간드 분할 투입 → 희석/교반 → 리간드/염 조정 촉매 로딩 증가로 부반응도 같이 키우다
화학선택성 확보 기질 우선순위, 산화적 첨가 제어 할라이드 종류/보호기 → 리간드 전자성 → 온도 반응점이 많은 기질에서 단일 조건으로 해결하려 하다

FAQ

Heck 반응에서 선택성 개선을 가장 먼저 무엇부터 해야 하다?

선택성의 종류를 먼저 분리 정의해야 하다. 위치선택성인지, E/Z 유지 문제인지, 과아릴화인지에 따라 레버가 달라지다. 그 다음에는 시간에 따른 선택성 프로파일을 확보해 “생성 단계” 문제인지 “생성 후 이성화” 문제인지부터 구분하는 것이 우선이다.

E/Z가 시간이 지나며 섞이는 현상은 왜 자주 발생하다?

Pd–H 종 또는 염기 조건에서 알켄이 이성화되기 쉬워서이다. 반응이 느리거나 고온 유지 시간이 길면 이성화 시간이 늘어나 선택성이 붕괴하기 쉽다. 퀀치 조건과 분석까지의 시간 표준화도 함께 필요하다.

과아릴화가 심하면 촉매를 줄이는 것이 정답이다?

항상 정답은 아니다. 촉매를 줄이면 반응이 느려져 오히려 과반응 창이 길어질 수 있다. 분할 투입, 농도 조절, 종료 타이밍 단축처럼 “원하는 경로만 빠르게 통과”시키는 설계가 먼저이고, 그 다음에 촉매 활성 레벨을 미세 조정하는 접근이 재현성에 유리하다.

선택성 최적화를 할 때 최소한 어떤 데이터를 남겨야 하다?

시간(h), 전환율(%), 목표생성물(%), 주요 이성질체(%), E/Z, 과반응물(%), 침전·점도·발열 같은 공정 관찰을 동시에 남겨야 하다. 이 조합이 있어야 어떤 단계에서 선택성이 무너지는지 역추적이 가능하다.