Te tienes que fijar primero en el tamaño de la caja para ver si puedes instalar una placa base ATX o micro ATX o las dos (referente al tamaño de la placa).
Los componentes básicos son la fuente de alimentación, placa base, el procesador(que lleve ya ventilador), la memoria ram y el disco duro. Algunas placas base llevan ya incorporados tarjetas de video y de sonido sencillas. Yo además le pondría algún ventilador externo. Luego si quieres ya pues grabadora/lector de CDs, lectores de tarjetas, tarjetas de TV, etc (Pero todo opcional, mira lo que te resulte más útil).
Tienes varias tiendas en internet(no sé si se pueden decir aquí) que te ofrecen un configurador de PCs a medida y te sacan un presupuesto de lo que te costaría.
Características hay miles y en función de cual es tu uso principal y tu límite de presupuesto puedes ajustar los componentes en un sentido o en otro. Te recomiendo sobre todo que la placa base y la memoria Ram sean decentes (ASUS para la primera y OCZ para la segunda por ejemplo).
Da algún dato más y la gente te podrá recomendar cosillas para que vayas aprendiendo.
