ตำบลจะแหน เป็นตำบลดั้งเดิม ตั้งแต่อำเภอสะบ้าย้อย ได้รับการยกฐานะแยกมาจากอำเภอเทพา เมื่อปี พ.ศ. 2467 เรียกชื่อว่า "กิ่งอำเภอบาโหย" โดยมีเขตการปกครอง มี 5 ตำบล ได้แก่ ตำบลโมง ตำบลบาโหย ตำบลเปียน ตำบลเขาแดง และตำบลจะแหน ต่อมาตำบลโมงได้เปลี่ยนชื่อเป็นตำบลสะบ้าย้อย จึงมาเป็นกิ่งอำเภอสะบ้าย้อย เมื่อปี พ.ศ. 2485
ในพื้นที่ตำบลจะแหน เป็นพื้นที่ราบลุ่ม ในอดีตชาวบ้านที่เริ่มตั้งถิ่นฐานในพื้นที่นี้ มีอาชีพทำนาเป็นส่วนใหญ่ และมีชาวไทยมุสลิมคนหนึ่ง ชื่อว่า “ โต๊ะจะแหน ” มาตั้งถิ่นฐานเป็นคนแรก และมีอาชีพทำนาเป็นที่รู้กันโดยทั่วไปว่า พื้นที่บริเวณที่ตั้งตำบลนาจะแหนปัจจุบัน คือ ที่นาของโต๊ะจะแหน ต่อมาจึงเพี้ยนเป็น “นาจะแหน” และเมื่อตั้งเป็นชื่อตำบลก็เหลือเพียงชื่อตำบลจะแหนถึงปัจจุบัน จึงได้จัดตั้งเป็นจากสภาตำบล จะแหน จนกระทั่งยกฐานะเป็นองค์การบริหารส่วนตำบล เมื่อวันที่ 23 กุมภาพันธ์ 2540 มีเขตการปกครองออกเป็น 5 หมู่บ้าน ประกอบด้วย
หมู่ที่ 1 บ้านคอลอมุดอ
หมู่ที่ 2 บ้านตราย
หมู่ที่ 3 บ้านวังโอะ
หมู่ที่ 4 บ้านมุนี
หมู่ที่ 5 บ้านนาจะแหน