教总的组成单位是马来西亚各地区的华校教师公会及由各地区华校教师会所组成的州级华校教师联合会，目前共有44个属会，其中4个是州级教师联合会（柔教联、彭教联、霹教联及砂教联）。

早在三四十年代第二次世界大战前，我国一些地区就已经有了华校教师会的存在。当时，这些由州、区域或县级华校校长和老师组成的教师会都属于联谊性组织，以联络同道的感情，及谋求同人的福利为宗旨。

1951年初，英国殖民政府通过《巴恩报告书》，计划取消华文学校。在此华文教育存亡绝续的危急时刻，全国各地华校教师遂团结起来，集思广益，寻求对策，以捍卫华文学校的继续存在。1951年8月24日，召开了有史以来第一次全马华校教师会代表大会，除了一致通过坚决反对《巴恩报告书》，也议决组织教总。

目前，各地区华校教师公会依其各自的章程招收会员，因此其对象也出现一些差异，不过，基本上以来自华文小学和华文独立中学的教员为主，有者则包括国民型中学或幼儿园的教员。

华校教师公会是民间团体，是公共利益组织，在社团法令之下注册。除了一般的会务和联谊活动，各地教师会也常举办各类学生活动，提供学生发挥潜能的平台；同时也积极推动教师培训工作，以提升教师的专业素质。