��������ժҫ
���������˹���
�ڵ�������������ʱ������ч�شӻ�����ϣ����ȡ�м�ֵģʽ�ѳ�ϊ��������ҵ���ߵĺؼ������ż�ģʽ����������ϊ�˶�����һϵ�����ܲ��ԣ���ͨ��ϵͳ���ķ������ڸ��ӽ�ռ���ѱ�����ż�������ŵľ���������������㷨��ơ�����ѧϰ���σ����ǹ����ż����⣬������щ����������������ч���뾫�ȡ�
���ż�ģʽ��������ҫ�������¼�����ķ�����
1. �ݶ��½����������
��ϊ����ҹ㷺ӧ�õ��ż��������ݶ��½���ͨ������ŀ�꺯���ݶȵķ�����������²������ƽ���сֵ�������������ݶ��½���sgd����adam�ż�����ͨ�������������������ӧѧϰ�ʣ���ч����˴��ģ�����µ������ٶ����ȶ������⡣���磬��ѵ�����������ʱ��adam�ż����������ڿ��ٵ���ȩ�أ���������ֲ����š�
2. �����㷨��ⱥ������
�����ģ����ȼ����������ⱥ����ϊ�������ڷ����������ֵ�ĸ����ż��������ŵ��㷨ͨ��ѡ����ͱ�����������ż���ⱥ����*����ⱥ�ż���pso��*��ģ����ⱥ��ʳ��ͨ��������ⱥ�徭���ƽ���������ž⡣������·���滮�у��ŵ��㷨��������������������⣬��ч�ҵ��������·����
3. ��ҷ˹�ż�
���������ɱ��߰��ĺ��亯������ҷ˹�ż�ͨ����������ģ�ͣ����˹���̣���ƽ��̽�������ã��խ��ٵ����ҵ�ȫ�����š����ڳ����������б���ͻ�������磬ϊ����ѧϰģ���զ�ѡ��ѧϰ�ʡ������ȳ�������������˹��դ�ʱ�䡣
4. ģ���˻��㷨
�ܽ����˻�����������÷���ͨ�����ơ��¶ȡ���������һ�����ʽ������ʽ⣬�ӷ������ֲ����š����ر�����������ż����⣬��оƭ������ƣ������ڴ����������ҵ��ܺ���͵ķ�����
5. ֱ��������
��ŀ�꺯�����ɵ����ݶ����լ���ʱ��ֱ������������nelder-mead����ͨ���ƚ϶��㺯��ֵ���������µ����σ����������ݶ���ϣ���ڹ��̲�������у�����������ڵ���������ģ�͵ij�����
��щ�������ǹ������ڣ�ʵ��ӧ���г������������խ����ںϻ�ľ������磬�ڽ��ڷ��ģ���у�����ݶ��½��ŀ�������������㷨��ȫ���������������ը�����ʶ����թģʽ�������˹����ܷ�չ�����ż�ģʽ��������������������ӧ���ƣ���ϊ���ܾ���ϵͳ�в��ɻ�ȱ�����档