Karbohidrat memiliki susuna kimia yang mengandung unsur C, H, O, N dan S. Secara harfiah karbohidrat berasal dari kata karbon (C) dan hidrat atau air. Karena itu karbohidrat mempunyai rumus empiris C_x(H₂O)_y. Contoh glukosa mempunyai rumus molekul C₆H₁₂O₆ atau  C₆(H₂O)₆, jadi x = 6 dan y = 6.

Namun ada beberapa organik yang bukan karbiohidrat tetapi mempunyai rumus empiris seperti karbohidrat, seperti sam asetat (C₂H₄O₂) dan asam laktat  (C₃H₆O₃). Sebaliknya, ada juga senyawa karbohidrat yang tidak mempunyai rumus empiris C_x(H₂O)_y, seperti ramnosa (C₆H₁₂O₅) dan deoksiribosa (C₅H₁₀O₄).

Dewasa ini, karbohidrat telah banyak dikenal memiliki struktur kimia yang tidak hanya mengandung unsur C, H, dan O saja, tetapi juga mengandung atom N atau S. Sehingga anggapan bahwa karbohidrat adalah ”hidrat dari karbon” adalah keliru. Tetapi meskipun demikian nama karbohidrat tetap digunakan. Karbohidrat merupakan senyawa polihidroksi (mempunyai banyak gugus –OH) dan mempunyai gugus fungsi aldehid atau keton.Senyawa karbohidrat yang mempunyai gugus fungsi aldehid disebut polihidroksi aldehid (aldosa) dan yang mempunyai gugus fungsi keton disebut polihidroksi keton (ketosa).