XML同HTML一樣，都來自Standard Generalized Markup Language, 即標準通用標記語言，簡稱SGML。早在Web未發明之前，SGML就早已存在。正如它的名稱所言，SGML是一種用標記來描述文檔資料的通用語言，它包含了一系列的文檔類型定義（簡稱DTD），DTD 中定義了標記的含義，因而 SGML 的語法是可以擴展的。SGML十分龐大，既不容易學，又不容易使用，在計算機上實現也十分困難。鑒于這些因素，Web的發明者--歐洲核子物理研究中心的研究人員根據當時(1989年)計算機技術的能力，提出了HTML語言。

HTML只使用SGML中很小一部分標記，例如HTML 3.2定義了70種標記。為了便于在計算機上實現，HTML規定的標記是固定的，即HTML語法是不可擴展的，它不需包含DTD。HTML這種固定的語法使它易學易用，在計算機上開發 HTML的瀏覽器也十分容易。正是由于HTML的簡單性，使 Web 技術從計算機界走向全社會，走向千家萬戶，Web的發展如日中天。

近年來，隨著 Web的應用越來越廣泛和深入，人們漸漸覺得HTML不夠用了，HTML過于簡單的語法嚴重地阻礙了用它來表現復雜的形式。盡管HTML推出了一個又一個新版本，已經有了腳本、表格、幀等表達功能，但始終滿足不了不斷增長的需求。另一方面，這幾年來計算機技術的發展也十分迅速，已經可以實現比當初發明創造HTML時復雜得多的Web瀏覽器，所以開發一種新的Web頁面語言既是必要的，也是可能的。

有人建議直接使用SGML 作為Web語言，這固然能解決HTML遇到的困難。但是SGML太龐大了，用戶學習和使用不方便尚且不說，要全面實現SGML的瀏覽器就非常困難，于是自然會想到僅使用SGML的子集，使新的語言既方便使用又實現容易。正是在這種形勢下，Web標準化組織W3C建議使用一種精簡的SGML版本--XML應運而生了。