测定物质的结构的方法很多，其原理也很难一一介绍。
以DNA为例子。为什么我们知道其中有四种碱基、核糖和磷酸的片段呢？这个应该是利用化学的方法将其降解成小分子片段再分别进行分析的。而其双螺旋结构则是由X光衍射的手段确定的。（我没有专门了解过，感觉思路是这样的。）
总之前面说的这些是为了说明分析方法的多样性，所以楼主的问题是比较宽泛的，某种程度上挺难回答的。
不知道楼主目前的学历（力）如何，所以就随便介绍些书。最为基础的就是《分析化学》（针对楼主的问题应当主要是定性分析）了，除此之外还有《仪器分析》。更为进一步就是各种《谱学导论》（这种书依然是general的那种）啊，核磁共振氢谱、碳谱什么的解谱相关的书，XRD的解析等等等等等。（深入的程度看个人想法）

P.S.1 某些最新操作可以直接观察到分子的形状了。。
如图，这是使用隧道扫描显微镜和原子力显微镜观察到的分子（DOI: 10.1126/science.1238187）：


P.S.2  水分子的那个H-O-H的夹角咋测的我也挺想知道的。。