本題討論的函數是數學分析中著名的黎曼函數 (Riemann Function) 或稱托馬伊函數 (Thomae’s Function)。它是一個奇妙的函數：在開區間 $(0, 1)$ 上，它在所有無理點皆連續，在所有有理點皆不連續。

1. 第 (1) 小題：證明在有理點不連續

   • 設 $x_0 = \frac{p}{q} \in (0, 1)$ 為一個有理點，則其函數值為 $f(x_0) = \frac{1}{q} > 0$。
   • 要證明不連續，只需找到一個數列 $\{x_n\}$ 收斂至 $x_0$，但其函數值極限不等於 $f(x_0)$。
   • 由於無理數在實數軸上是稠密 (dense) 的，在 $x_0$ 的任何鄰域內都有無限多個無理數。
   • 我們可以選取一個完全由無理數構成的數列 $\{x_n\}$，滿足 $\lim_{n\to\infty} x_n = x_0$。
   • 由於 $x_n$ 皆為無理數，其函數值 $f(x_n) = 0 \to 0$。
   • 因為 $\lim_{n\to\infty} f(x_n) = 0 \neq \frac{1}{q} = f(x_0)$，故函數在 $x_0$ 處不連續。

2. 第 (2) 小題：證明在無理點連續

   • 設 $x_0 \in (0, 1)$ 為一個無理點，則其函數值為 $f(x_0) = 0$。
   • 根據極限的 $\varepsilon\text{-}\delta$ 定義，我們要證明：對於任意給定的 $\varepsilon > 0$，存在 $\delta > 0$，當 $|x - x_0| < \delta$ 時，恆有 $|f(x) - f(x_0)| = f(x) < \varepsilon$。
   • 若 $x$ 是無理數，則 $f(x) = 0 < \varepsilon$ 必然成立。
   • 若 $x = \frac{p}{q}$ 是有理數，我們需要滿足 $f(x) = \frac{1}{q} < \varepsilon \implies q > \frac{1}{\varepsilon}$。
   • 在開區間 $(0, 1)$ 內，滿足分母 $q \le \frac{1}{\varepsilon}$ 的有理數數量是有限的。我們將這個有限的有理數集合記作 $S$： $S = \left\{ \frac{p}{q} \in (0, 1) : q \le \frac{1}{\varepsilon},\, \gcd(p,q)=1 \right\}$
   • 因為 $x_0$ 是無理數，所以 $x_0 \notin S$。
   • 由於 $S$ 是一個有限集合，我們可以計算 $x_0$ 到 $S$ 中所有點的距離，並取其最小值作為 $\delta$： $\delta = \min \big\{ |x_0 - r| : r \in S \big\} > 0$
   • 在這個 $\delta$ 鄰域內，不存在任何分母小於或等於 $\frac{1}{\varepsilon}$ 的有理數。
   • 因此，在此鄰域內的所有有理數 $x = p/q$，其分母必定滿足 $q > \frac{1}{\varepsilon} \implies f(x) = \frac{1}{q} < \varepsilon$。
   • 由此證得 $\lim_{x\to x_0} f(x) = 0 = f(x_0)$，故函數在無理點連續。

第 (1) 小題：證明在有理點不連續

任取一個有理點 $x_0 = \frac{p}{q} \in (0, 1)$，其中 $p, q$ 為正整數且互質。依定義，其函數值為：

由於無理數在實數中具有稠密性（即任意兩個不同實數之間必定存在無理數），對於每一個正整數 $n$，我們都可以在區間 $\left( x_0 - \frac{1}{n}, x_0 + \frac{1}{n} \right) \cap (0, 1)$ 內找到一個無理數 $x_n$。

我們建構此無理數數列 $\{x_n\}$：

1. 因為對所有 $n$， $x_n \in \left( x_0 - \frac{1}{n}, x_0 + \frac{1}{n} \right)$，根據夾擠定理，當 $n \to \infty$ 時： $$\lim_{n \to \infty} x_n = x_0$$
2. 由於數列中的每一項 $x_n$ 皆為無理數，根據函數定義，其函數值恆為： $$f(x_n) = 0 \quad \text{對於所有 } n \ge 1$$ 對其求極限，得到： $$\lim_{n \to \infty} f(x_n) = 0$$

此時我們發現：

根據數列連續性特徵，函數 $f$ 在有理點 $x_0 = \frac{p}{q}$ 處不連續。

第 (2) 小題：證明在無理點連續

任取一個無理點 $x_0 \in (0, 1)$，依定義其函數值為：

對於任意給定的 $\varepsilon > 0$，我們要尋找一個 $\delta > 0$，使得當 $x \in (0, 1)$ 且 $|x - x_0| < \delta$ 時，滿足：

我們分析 $f(x)$ 在此鄰域內的值：

• 若 $x$ 為無理數，則 $f(x) = 0 < \varepsilon$ 顯然成立。
• 若 $x = \frac{p}{q}$ 為有理數（最簡分數），我們需要： $$f(x) = \frac{1}{q} < \varepsilon \implies q > \frac{1}{\varepsilon}$$

這意味著我們必須避開所有滿足分母 $q \le \frac{1}{\varepsilon}$ 的有理數。 在開區間 $(0, 1)$ 中，滿足分母 $q \le \frac{1}{\varepsilon}$ 的有理數（最簡分數）集合為：

由於分母 $q$ 的可能取值只有有限多個（即 $1, 2, \dots, \lfloor 1/\varepsilon \rfloor$），且對於每個分母 $q$，滿足 $0 < p < q$ 的分子 $p$ 也是有限的，因此 $S$ 是一個有限集合。

因為 $x_0$ 是無理數，所以 $x_0$ 絕不可能屬於有理數集合 $S$（即 $x_0 \notin S$）。 因為 $S$ 是有限集合，我們可以定義 $\delta$ 為 $x_0$ 到 $S$ 中所有點的距離的最小值：

由於 $S$ 中不包含 $x_0$，且 $S$ 是有限集，這個最小距離必定大於 $0$，即 $\delta > 0$。

當 $x \in (0, 1)$ 且滿足 $|x - x_0| < \delta$ 時： 此鄰域 $(x_0 - \delta, x_0 + \delta)$ 內絕不含有集合 $S$ 中的任何元素。因此，若 $x$ 為有理數 $p/q$，其分母必然滿足：

因此，對於所有滿足 $|x - x_0| < \delta$ 的 $x \in (0, 1)$，不論 $x$ 是有理數還是無理數，均有：

根據定義，這證實了：

即函數 $f$ 在無理點 $x_0$ 處是連續的。證明完畢。