Nama sebenar beliau ialah Yap Tet Loy, dilahirkan di Kwangtung, China pada tahun 1837. Beliau adalah dari keturunan Hakka dan mendirikan rumahtangga pada tahun 1856 dengan seorang gadis dari Melaka, Kok Kang Keown. Pasangan ini dikurniai dengan dua orang cahayamata lelaki, Yap Hon Chin dan Yap Loong Hin.
Yap Ah Loy datang ke Tanah Melayu pada tahun 1854 dan menetap di Melaka dan bekerja sebagai pembantu kedai. Beliau kemudiannya berhijrah ke Lukut dan bekerja sebagai buruh di sebuah lombong timah. Selain bekerja sebgai buruh, Yap Ah Loy turut terlibat dalam perniagaan khinzir. Dengan fizikal yang tegap dan gagah, Yah Ah Loy mempunyai reputasi sebagai seorang yang digeruni, selain daya kepimpinan yang tinggi. Oleh yang demikian, pada tahun 1860, beliau telah dipilih sebagai Kapitan, atau ketua bagi masyarakat cina dari kalangan pelombong bijih timah di Sungai Ujong, beliau menggantikan kapitan sebelumnya yang mati dibunuh akibat persengketaan dengan sekumpulan pelombong bijih yang lain.
Apabila Kuala Lumpur diterokai dan perusahaan bijih timah mula berkembang, Yap Ah Loy telah dipelawa oleh Liu Ngim Kong, seorang pemimpin masyarakat cina di Kuala Lumpur untuk membantunya dalam perusahaan lombong bijih disana. Yap Ah Loy kemudianya telah membuka lombongnya sendiri dan bertambah maju hingga menjadi kaya raya. Yap Ah Loy kemudiannya melabur dengan memajukan beberapa kawasan di Kuala Lumpur, termasuk pembinaan tokong Sze Yeh. Setelah kematian Liu Ngim Kong, atas permintaan mendiang sendiri, Yap Ah Loi telah diangkat sebagai Kapitan bagi masyarakat cina di Kuala Lumpur, pelantikan ini turut mendapat restu dari Sultan Abdul Samad, Raja Abdullah dari Klang dan Sutan Puasa, pemimpin kaum melayu yang paling berpengaruh di Kuala Lumpur pada ketika itu. Pada tahun 1869, Yap Ah Loy dimasyurkan secara rasmi sebagai Kapitan dalam satu majlis yang turut dihadiri oleh Raja Mahdi, Raja Asal dan Sutan Puasa. Dalam upacara pemasyuran itu, Yap Ah Loy telah mengenakan pakaian tradisi melayu lengkap dengan destar sepertimana lazimnya dipakai oleh Raja-raja melayu, sementara pengisytiharan dilakukan dalam bahasa ibunda beliau. Walau bagaimana pun, sewaktu pemasyuran semula sebagai Kapitan pada 1873, iaitu selepas tamatnya perang Klang, Yap Ah Loy mengenakan pakaian tradisi masyarakat cina.
Sumbangan Kapitan Yap Ah Loy pada pembangunan Kuala Lumpur tidak boleh dinafikan, sewaktu Kuala Lumpur dilanda banjir besar, semua pengusaha lombong mengalami kerugian akibat kerosakan pada mesin dan bangunan. Yap Ah Loy sendiri turut sama terjejas, beliau terpaksa meminjam sejumlah besar wang bagi membiayai kos pembaikan agar dapat meneruskan perusahaanya. Malah beliau hampir muflis akibat dari hutang yang besar itu, namun nasibnya baik apabila harga timah naik dua kali ganda pada tahun 1879, lalu dalam tempoh setahun segala hutang piutang dapat beliau langsaikan. Yap Ah Loy kemudiannya membiayai pembinaan jalan, rumah sakit, sekolah jenis kebangsaan (c) dan perusahaan batu-bata yang menjadi kegunaan untuk pembinaan bangunan di Kuala Lumpur pada ketika itu, kawasan perusahaan ini kemudiannya dikenali sebagai Brickfields Road.
Pada akhir 1884, Yap Ah Loy telah diserang bronkitis dan jangkitan kuman pada paru-paru, namun beliau hanya bertahan dengan rawatan tradisional cina yang berasaskan herba. Biarpun menunjukkan tanda-tanda akan sembuh, beliau akhirnya meninggal dunia pada 15 April 1885, sebagai tanda penghormatan, seluruh pejabat kerajaan ditutup pada hari pengkebumian beliau.
