主人公石破天自小没名没姓，和一个他以为是自己母亲的女人，僻居于一座不知名的荒山上。那女人叫他做狗杂种，他便以为这就是他自己的名字。那女人脾气古怪，动辄打骂于他，他也习以为常。他从小学会了砍柴、做饭等种种家务，却大字不识一个，于世事、人心更是一无所知。一天那女人忽然不见了，他自小相伴的那条叫“阿黄”的狗也不见了，便出去到处寻找。结果人和狗都没找着，自己却迷了路。
当他来到一个叫侯监集的小镇上时，适逢许多武林人物为一枚玄铁令大动干戈。他是个小乞儿的样子，谁也没注意，却因为饥饿太甚，捡了个混战中撒落在地的烧饼吃，意外地得到了玄铁令。正在众人发现，各各威逼利诱之时，玄铁令的主人谢烟客适时赶到。将玄铁令夺回。但这个魔头恪于诺言，必须答应为持令者做一件事，他怕众人教唆这个小乞儿让他干不利于他的事，便连令带人一起携走。不料他想尽办法也不能让石破天求他一件事，石破天告诉他，母亲对他的唯一教诲，便是不管怎样也不能求人。他虽然是乞儿却从不乞讨，别人给他吃他就吃，别人不给，他实在饿了，便拿了就吃，他也不知道这叫偷，也不觉得有什么不对。
谢烟客无奈只好带他回自己隐居的摩天崖，途中石破天遇见几个武林人物围攻一个叫大悲老人的老头，他挺身而出，虽然没救成大悲老人，却在他临死之前做了他的朋友，得了他一套载有武功的泥人。到了摩天崖，谢烟客传授他两种极阴、极阳的内功，想让他走火入魔而死，以绝后患。
不料正在石破天阴阳交战，即将走火入魔的时候，长乐帮来人硬说石破天是他们的帮主，将他劫回帮中。帮中的医道高手贝海石将石破天救活，反而成就了他阴阳合一的无上内功。帮中人都认定他就是名叫石破天的帮主，他怎么解释也无济于事。后来他自己也怀疑起来，等到他结识了一个名叫丁当的女孩，那女孩指给他看，她从前在他肩头咬伤的疤痕时，他就更懵懂了。他喜欢丁当又不敢喜欢，因为他还不能确定自己到底是谁。
幸好在他最为难的时候，真的石破天被帮中人捉回。原来贝海石等人知道“狗杂种”不是真的石破天，但因他长相与石破天酷似，因此故意将错就错，让他冒名顶替，以替他们消解即将到来的灾难，而石破天肩上的伤疤，也是贝海石在他昏迷时用手术弄上去的。这时石破天已以帮主的身份接了侠客岛的赏善惩恶令，而在雪山派作了恶又冒名石破天逃出来做了长乐帮主，后又逃走的石中玉却又冒充“狗杂种”，石破天骗得了谢烟客的信任。石破天刚在石中玉父母那儿得了一点温暖和爱意，石中玉的到来使他只好又离开了。
他先和人见人怕的赏善惩恶使交上了朋友，结为兄弟，后又邂逅雪山派祖师白自在的妻子小翠和她的孙女阿绣。开始他被误认为石中玉，差点被杀，但等误会澄清，小翠却收他作了金乌派的掌门弟子，阿绣与他也渐渐两情相悦。他们赶回雪山派，石破天凭借自己的盖世神功消解了雪山派的门户之变，治好了白自在的疯病。这时谢烟客在石中玉的唆使下，赶来向雪山派寻仇，但石破天的出现终于使一切真相大白，而丁当也彻底弃石破天而去。
不久石破天随白自在等武林高手持令前往侠客岛，在岛上经历一番惊险后，终于弄明白了三十年来许多武林高手前往侠客岛一去不返的真相：岛上一个山洞里的石壁上刻着李白的那首叫做《侠客行》的五言古诗，其中隐含了一项绝顶神功。侠客岛主从中土以赏善惩恶令逼来众多武林高乎，只是为了一起参详这项神功，但各人见仁见智，谁也破解不了，而对武学的酷嗜，却使这些人面对石壁神智痴迷，再也不想离开这个山洞。石破天听着众人的争论，看着他们痴迷的样子，只是感到害怕，却不明所以。众人都在诗句分解注释的各个小山洞，他因为不识字，在那儿既害怕又看不出个究竟来，便来到刻着整篇诗的大洞。不料他往石壁上一看，目中所见都是一把把形态、剑势、剑意各各不同的利剑，所有的文字于他毫无实际的意义可言。他顺着剑势、剑意看去，内息自然而然随之流动，手舞足蹈，待得从头至尾看完一遍，这项神功已是被他练成了。
回归中土后，为解一桩武林疑案，他随丁当的叔祖丁不四等去寻找他的女儿，终于又回到了小时候居注的荒山。当他看到那条与他阔别已久的狗“阿黄”时，欣喜若狂，看来，在石破天的心中，绝世武功远比不上“阿黄”，比练成“侠客行”武功更高兴万分。然而他的身世依然是个谜。