希爾排序的實質就是分組插入排序，該方法又稱縮小增量排序，因DL．Shell於1959年提出而得名。
該方法的基本思想是：先將整個待排元素序列分割成若干個子序列（由相隔某個“增量”的元素組成的）分別進行直接插入排序，然後依次縮減增量再進行排序，待整個序列中的元素基本有序（增量足夠小）時，再對全體元素進行一次直接插入排序。因爲直接插入排序在元素基本有序的情況下（接近最好情況），效率是很高的，因此希爾排序在時間效率上比前兩種方法有較大提高。
以n=10的一個數組49, 38, 65, 97, 26, 13, 27, 49, 55, 4爲例
第一次 gap = 10 / 2 = 5
49 38 65 97 26 13 27 49 55 4
1A 1B
2A 2B
3A 3B
4A 4B
5A 5B
1A,1B，2A,2B等爲分組標記，數字相同的表示在同一組，大寫字母表示是該組的第幾個元素，每次對同一組的數據進行直接插入排序。即分成了五組(49, 13) (38, 27) (65, 49) (97, 55) (26, 4)這樣每組排序後就變成了(13, 49) (27, 38) (49, 65) (55, 97) (4, 26)，下同。
第二次 gap = 5 / 2 = 2
排序後
13 27 49 55 4 49 38 65 97 26
1A 1B 1C 1D 1E
2A 2B 2C 2D 2E
第三次 gap = 2 / 2 = 1
4 26 13 27 38 49 49 55 97 65
1A 1B 1C 1D 1E 1F 1G 1H 1I 1J
第四次 gap = 1 / 2 = 0 排序完成得到數組：
4 13 26 27 38 49 49 55 65 97
下面給出嚴格按照定義來寫的希爾排序
void shellsort1(int a[], int n)
{
int i, j, gap;
for (gap = n / 2; gap > 0; gap /= 2) //步長
for (i = 0; i < gap; i++) { //按組排序
for (j = i + gap; j < n; j += gap) {
if (a[j] < a[j - gap]) {
int temp = a[j];
int k = j - gap;
while (k >= 0 && a[k] > temp) {
a[k + gap] = a[k];
k -= gap;
}
a[k + gap] = temp;
}
}
}
}
很明顯，上面的shellsort1代碼雖然對直觀的理解希爾排序有幫助，但代碼量太大了，不夠簡潔清晰。因此進行下改進和優化，以第二次排序爲例，原來是每次從1A到1E，從2A到2E，可以改成從1B開始，先和1A比較，然後取2B與2A比較，再取1C與前面自己組內的數據比較…….。這種每次從數組第gap個元素開始，每個元素與自己組內的數據進行直接插入排序顯然也是正確的。
void shellsort2(int a[], int n)
{
int j, gap;
for (gap = n / 2; gap > 0; gap /= 2)
for (j = gap; j < n; j++) //從數組第gap個元素開始
if (a[j] < a[j - gap]) { //每個元素與自己組內的數據進行直接插入排序
int temp = a[j];
int k = j - gap;
while (k >= 0 && a[k] > temp) {
a[k + gap] = a[k];
k -= gap;
}
a[k + gap] = temp;
}
}
再將直接插入排序部分用直接插入排序的三種實現中直接插入排序的第三種方法來改寫下：
void shellsort3(int a[], int n)
{
int i, j, gap;
for (gap = n / 2; gap > 0; gap /= 2)
for (i = gap; i < n; i++)
for (j = i - gap; j >= 0 && a[j] > a[j + gap]; j -= gap)
Swap(a[j], a[j + gap]);
}
這樣代碼就變得非常簡潔了。
附註：上面希爾排序的步長選擇都是從n/2開始，每次再減半，直到最後爲1。其實也可以有另外的更高效的步長選擇，如果讀者有興趣瞭解，請參閱維基百科上對希爾排序步長的說明：
http://zh.wikipedia.org/wiki/%E5%B8%8C%E5%B0%94%E6%8E%92%E5%BA%8F