Awal dari sengketa di Blok Ambalat adalah Konvensi antara Belanda dan Inggris mengenai wilayah kekuasaan di Pulau Kalimantan pada 1891. Dalam konvensi tersebut ditetapkan wilayah Sabah dan Serawak berada di bawah kendali Inggris, sedangkan sisanya masuk ke wilayah Belanda.
Sayangnya, tidak ada perjanjian batas negara yang jelas dalam konvensi tersebut khususnya di wilayah laut. Hal inilah yang menjadi sengketa antara Indonesia dan Malaysia kelak setelah merdeka.
Pada era pendudukan Jepang, jelas tidak ada masalah dalam Blok Ambalat karena digunakan sebagai basis kekuatannya untuk melawan Amerika Serikat di Samudera Pasifik. Namun, ketika Indonesia merdeka pada 17 Agustus 1945, Jepang menegaskan wilayah Indonesia merupakan bekas wilayah jajahan Belanda.
Hal ini sempat ditentang oleh Bung Karno, karena beliau menginginkan seluruh Pulau Kalimantan berada di wilayah Indonesia. Ketegangan antara kedua negara memuncak ketika Inggris memerdekan Malaysia pada 31 Agustus 1957. Bung Karno pun menolak keberadaan Malaysia berikut wilayah yang diklaimnya.
Indonesia sempat mengirimkan tentara ke Pulau Kalimantan, sayangnya usaha tersebut harus diakhiri setelah Presiden Soeharto mengambil alih kekuasaan di Indonesia.