TFLN 박막 소재, 방산 전용에서 상업용 포토닉스 시장으로 도약

광학 반도체 소재 분야에서 박막 니오브산리튬(Thin-Film Lithium Niobate, TFLN)이 상업용 시장의 주류 플랫폼으로 부상하는 변곡점을 맞이했다. 영국계 광학 부품 전문기업 G&H의 수석 연구원 스트라토스 케하야스는 Semiconductor Digest 기고를 통해 'TFLN이 이제 실험실과 방산 응용의 테두리를 벗어나 주류 상업 포토닉스로 졸업하는 시점'이라고 선언했다.

TFLN의 핵심 경쟁력은 탁월한 전기광학(EO) 변환 계수에 있다. 기존 인듐인화물(InP) 기반 광변조기 대비 구동 전압이 최대 60% 낮고, 반치전폭(3dB) 대역폭은 100GHz를 초과하는 성능을 구현할 수 있다. 이는 AI 데이터센터 광인터커넥트의 400G·800G 고속 전송 수요에 최적화된 특성이다.

TFLN은 박막 공정 기술의 진화와 함께 웨이퍼 수율이 빠르게 향상되고 있다. 2024년만 해도 4인치 웨이퍼 기준 수율이 50% 미만에 머물렀으나, 현재는 6인치 웨이퍼에서 80% 이상의 수율을 달성하는 업체가 등장했다. 양산 비용이 빠르게 하락하면서 경제성 확보 시점이 앞당겨지고 있다.

글로벌 시장조사업체 라이트카운팅은 TFLN 기반 광변조기 시장이 2026년 약 4억 5000만 달러에서 2030년 18억 달러 규모로 성장할 것으로 전망했다. 연평균 성장률 41%에 달하는 폭발적 성장이 예상되며, AI 광인터커넥트 수요가 핵심 성장 동력으로 꼽힌다.

이 시장에서 주목받는 기업은 미국의 아이오닉스(Ionics), 에이픽스(APIX Analytics), 영국의 G&H, 그리고 대만의 에이핀이다. 이들은 이미 엔비디아, 아마존웹서비스(AWS) 등 빅테크와 광인터커넥트 공급 협의를 진행 중인 것으로 알려졌다.

국내에서는 한국전자통신연구원(ETRI)과 광주과학기술원(GIST)이 TFLN 기반 광변조기 원천기술을 확보한 상태다. 다만 양산 설비 투자와 수율 개선에서는 글로벌 선도 기업 대비 2~3년의 격차가 존재한다는 평가가 나온다.

업계 관계자는 'TFLN 소재가 기존 포토닉스 부품의 성능 한계를 근본적으로 극복하는 게임체인저'라고 평가하며, '광트랜시버 시장에서 인듐인화물 대체재로 채택되는 속도가 예상보다 빠를 것'이라고 내다봤다.

소부장 측면에서 TFLN의 핵심 관문은 고품질 단결정 웨이퍼 공급망이다. 원재료 니오브산리튬 단결정 성장 기술은 일본 신에쓰화학과 TDK가 과점 공급하고 있으며, 박막화 공정 장비는 대부분 미국에 의존하는 구조다. 공급망 다변화가 시급한 과제다.

한국 반도체 소재 기업들이 TFLN 밸류체인에 진입하기 위해서는 웨이퍼 박막화 공정, 패터닝 공정용 식각 소재, 패키징 기술 등에서 차별화된 역량을 확보해야 한다. 일부 국내 식각 소재 기업들이 TFLN 전용 습식 식각액 개발에 착수한 것으로 파악된다.

TFLN 소재 기반 광집적회로(PIC)는 향후 LiDAR, 바이오센서, 양자통신 분야로도 응용이 확대될 전망이다. G&H의 케하야스 연구원은 '2027년경 TFLN 기반 PIC가 고속 광통신 시장의 20% 이상을 차지할 것'이라고 전망했다.

국내 투자 업계에서도 TFLN 관련 소재·장비 기업에 대한 관심이 높아지고 있다. 광통신 소재 전문 스타트업에 대한 벤처캐피탈 투자가 올해 들어 전년 대비 2배 이상 증가한 것으로 집계됐다. AI 데이터센터 광인터커넥트 수요가 본격화되면서 TFLN 밸류체인 전반에 걸친 투자 기회가 열리고 있다는 분석이다.