Từ khi còn 17 tuổi, Cao Thái Sơn đã bắt đầu theo đuổi đam mê ca hát, nhưng cho đến nay, anh chưa thực sự tạo nên một dấu ấn đáng kể. Sự nổi tiếng đầu tiên của anh đến khi anh tham gia chương trình Sao Mai Điểm Hẹn năm 2004, khi tên tuổi của anh bắt đầu được chú ý. Lúc ấy, anh nhận được sự khen ngợi về chất giọng nam tính và vẻ ngoại hình điển trai. Việc anh, một ca sĩ sinh năm 1985, quyết định rút khỏi cuộc thi đã khiến nhiều người ngạc nhiên, và có ý kiến cho rằng đó có thể là một quyết định sai lầm, vì sau cuộc thi, Cao Thái Sơn không có nhiều hoạt động nghệ thuật đáng chú ý.
Đến năm 2006, sau khi rời khỏi công ty HT Production, Cao Thái Sơn bắt đầu ra mắt nhiều ca khúc mới. Tuy nhiên, thực sự tên tuổi của anh bắt đầu tỏa sáng nhờ bản hit “Con Đường Mưa” của Nguyễn Văn Chung. Sau đó, nam ca sĩ 8X tiếp tục phát hành nhiều ca khúc thành công như “Pha Lê Tím,” “Yêu Thương Quay Về,” và “Cầu Vồng Sau Mưa”… Từ đó, anh đã có vị trí đáng kể trong làng nhạc Việt và giành được nhiều giải thưởng danh giá.
Tuy sự nghiệp đang phát triển, Cao Thái Sơn đã gặp phải tranh cãi khi anh trình bày ca khúc “Người Ở Lại,” bị cho là đạo nhạc. Mặc dù anh đã thể hiện sự rõ ràng, nhưng vụ việc này đã gây ra những phản ứng trái chiều. Sau một thời gian im lặng, Cao Thái Sơn đã cố gắng giới thiệu dự án âm nhạc mới, nhưng không tạo nên hiệu ứng mong muốn. Vào thời điểm đó, anh quyết định sang Mỹ định cư.
Cuối tháng 4 năm 2021, Cao Thái Sơn tái xuất với MV “Tất Cả Hoặc Không Là Gì Cả.” Mặc dù anh không đặt nặng việc tạo hit, nhưng ca khúc này đã thu hút sự chú ý, thu được gần 4 triệu lượt xem sau 2 tuần. Khi được hỏi về việc lựa chọn bài hát này, Cao Thái Sơn thú nhận rằng anh đã trải qua một khoảng thời gian mất đi cảm xúc và đam mê âm nhạc. Anh từng từ chối nhiều bài hát, và sau đó những ca khúc đó trở thành hit của các đồng nghiệp. Tuy nhiên, anh vẫn tin rằng mọi thứ đều có cái duyên của nó.
Hiện tại, Cao Thái Sơn đang áp dụng một lối sống khoa học, tập luyện thể thao, chăm sóc vườn cây và thu âm. Sau hơn 10 năm hoạt động nghệ thuật với nhiều thăng trầm, anh đang tập trung vào cuộc sống cá nhân và muốn khán giả quan tâm đến âm nhạc của anh hơn.