Năm 16 tuổi, một tai nạn xảy ra là bước ngoặt của cuộc đời ông. Kopa bị một tảng than lớn đè vào tay khi đang làm việc, phải tháo khớp ngón tay và không thể tiếp tục làm thợ mỏ. Ông phải kiếm tìm một nghề nghiệp khác để mưu sinh. Do vậy Kopa tìm đến với bóng đá.

Ông bắt đầu sự nghiệp bóng đá chuyên nghiệp năm 17 tuổi với câu lạc bộ SCO Angers, và hai năm sau chuyển đến Stade de Reims. Tại đây ông đã giành được 2 chức vô địch Pháp vào các năm 1953 và 1955. Ông cùng với Reims đã lọt vào trận chung kết Cúp C1 châu Âu đầu tiên năm 1956, thất thủ trước Real Madrid với Alfredo Di Stéfano 3-4. Ông chuyển đến Real Madrid mùa bóng tiếp theo, đá cặp cùng với Ferenc Puskás. Với hai chức vô địch Tây Ban Nha các năm 1957 và 1958, tiếp theo đó là hai chức vô địch Cúp C1 châu Âu với Real Madrid các năm 1958 và 1959, Kopa trở thành cầu thủ Pháp đầu tiên giành được một Cúp châu Âu, trong đó trận chung kết năm 1959 đội bóng của ông lại vượt qua Stade de Reims của Just Fontaine.