由于缺少正式的官方历史文件纪录，沙巴早期的历史比较模糊，也只能由一些国外的纪录及考古学家所发现的考古证据来考证。沙巴博物馆收藏了关与这方面的资料。
早期
据记载，沙巴早在公元六世纪就和中国有经济来往，在沙巴的博物馆还可以看到格式各样的瓮，证明沙巴及中国的关系源远流长。当时中国商人来这里多数为了香料、木材、燕窝等等。在中国各朝代古书、史书中都有记载著渤泥（Borneo），可见当时中国人已经踏足婆罗洲了，甚至在中国南京还保留著明朝渤泥国王的坟墓。
近代
在十五世纪沙巴以及砂拉越为文莱苏丹所统治。在1658年文莱苏丹为了答谢苏禄苏丹帮忙平定文莱的内乱，把东北地区割让给苏禄苏丹。
在1761年，英国东印度公司向苏禄苏丹定了合约，以便在Pulau Balambangan上设立一个贸易站，在1805年11月，这个岛也被他们舍弃了。