��������ժҫ
�ٶ�������������ʲô�ط�
�ڻ������ĺ�嫺����у�����ÿ���������ҳ����������һⱥ���εġ���ϣ�ɼ��ߡ���������νӵ����缼�������ѿ��ܻ���棺֩����վ��ʲô��վ���� ��ʵ������ġ�֩����վ������ָij���������վ������ָ�������棨web spider�� ��һ�զ�����������ͬ֩���������ϱ�֯��ϣ������������������ݲɼ��ĺ��ĺ��ߡ�
ʲô������֩�룿
����֩�룬ҳ��ϊ�������������ˣ���һ�ְ���Ԥ������զ�ץȡ��������ϣ�ij�������������դ���乤����ʽ������֩��һ������ά���ϡ����с�����һ������������һ�����ӣ��ռ���ҳ���ݡ�����������google���ٶȵȣ�������ǿ���֩�����������ȫ����ҳ���ӷ�ϊ�û��ṩ����ȷ�����������
֩����վ���������
֩����վ����������ͨ���������¼������裺
- ����url����һ���ʼ��ַ��ʼ���ʡ�
- ץȡ������������ҳ��html���룬��ȡ�ı������ӵ���ϣ��
- �����洢����ץȡ�����ݷ�����������ݿ⣬����������
- ��������������ҳ���е������ӣ�����ץȡ����ҳ�棬ѭ��������
��һ����ȷ������ϣ�ij������º���չ�����磬��������վ������������ʱ��֩���ѹ�ٲ�������������ʹ�û��ܼ�ʱ������������ݡ�
֩����վ����ҫ����ӧ��
֩����վ������������������ļ�ʯ�����㷺ӧ���ڶ������
- �г���������ҵͨ�������ռ��������ֵļ۸�ʒ��ϣ��
- ѧ���о���ѧ���������ۺϲ������ݣ��������ʒ�����
- ���������������������罻ý������ŷ�̬��
һ�����ͱ��������̼۸������������ƽ̨ʹ��֩�����ʵʱ��ͬ����ʒ�ļ۸�仯���ӷ��������լ��ķ��۲��ԣ������г��������������զ������ߴ��������ч�ʣ��������˹��ɱ���
����ż���վ����ӧ֩��ץȡ��
������վ�����߶��ԣ�����֩����վ����ϊ������ҫ����������������վ�����������еŀɼ��ȡ�������һщ�ż����飺
- ������������վ�ṹ��ʹ�ú������ڲ����ӣ�����֩�������
- ��д��������ԭ��������֩��ƫ�ö������м�ֵ����ϣ��
- ����robots.txt�ļ�������֩��ץȡ��ҫҳ�棬�ܿ��ز��֡�
- ȷ����վ�����ٶ������ٵ���ӧ�����ץȡч�ʡ�
ֵ��ע����ǣ�֩�������ѭ���ºͷ�������������վ��robotsэ�飬�������ץȡ���·�����ѹ������ˣ�����������������ܴٽ���ϣ��������ͨ���������á�
ͨ�����ĵľ������������ԡ�֩����վ�����˸���������ʶ���������ǽ�������������������뺣��������ϣ�������������ֻ�ʱ�������������ԭ�������������ڸ���ѧϰ������ҵʵ�������������������ơ�