Top Banner
34

Nonparametric Estimation of Conditional Distributions in the Presence of Continuous and Categorical Data

Apr 20, 2023

Download

Documents

Welcome message from author
This document is posted to help you gain knowledge. Please leave a comment to let me know what you think about it! Share it to your friends and learn new things together.
Transcript
Page 1: Nonparametric Estimation of Conditional Distributions in the Presence of Continuous and Categorical Data

������������� ����� ��������� ������� ���������������� ��� ����� "!#� ����$� %�&'��� ���(�� �)��*� �+,� -�� .���. /������������� �'&���&(���������0�1�� -23��$� ��� 4!/�1����5

687:9�;(<>=@? A�7B(7@C-<>D EGF"7@A�E'H8IJ�=@H�A�H�F4? =@KL(A�? M�7@D K ? E N"H�IO$H�P$EGQ,R1S H�D ? T-<

U<8F4C-<$V�RW�X8X�Y8Z�[\ DG<8=@? A�7^]�=@H�_�<�` P�K I ` 7@T�P

a ?1W�?B�7@C�<8D EGF47@A�E'H�IJ�=@H8A�H8F"? =@KU17:b�<8K'c�d�efL(A�? M$7@D K ? E Ng H8S S 7@h�7�O�E:<>EG? H�A.V�U3ikj8j�l>m$X

n ? ]�7@=@H�A.` E:<>FoP�` 7@T�P6�<8A$P�<8D N�Z8p�V�Z8[�[8[

q�r8s t u v:w tx�y1z { |:}:~(� �-�@� } �^}G� z ~'� } ��{ |Gz�� }G�:� � � { z � {��:} �:�@� � � y1z { � � ��z � { � y� { � } �(} ��� }G�:~@� { � }G�:� �

�:� } �@� �@� � � { ��� �@~��:� } �@� �@� � � { ��~Gz �@� � { ��� �@�:� { � } �@��� � }G�G���-� { |�� � � }:� � � { z ~�� � � ~:� z � { ��-|:z ��^} { |�{ |:z�� }G�:~@� { � }G�Gz ~�� �:~�� }G�:~@� { � }G�:� �:��� � � � � �@� z ��� � z1� � { z � } � � � � � �^� } � { � �G�G}G�:� �:} �-�y� �G�{ �:� z�} �.�^} { |�{ �G�^z � ����|:z3y1z { |G}:~��^�:� � ~@��} ��{ |Gz3��} � ��} �.x-� { � |@� � } ����x-� { � z �"� � � � � ��-|G}3�:� } �^} � z ~��3�:} � z ��y1z { |:}:~(� } �1� z � �:z �$~Gz �@� � { �'z � { � y� { � } �(�-|Gz ���:� � �:�3y1�:� { � �G}Gy� � �� � { z � } � � � � ��~@� { �3{ �G�^z � ���G� y1�:� � { � }G�:��� |:} ��{ |:� {1{ |Gz��:� } �^} � z ~�y1z { |:}:~��^z � � } � y�1�G�@� { z�$z � �$� } ���'�G�@y.�^z �1} �.� } �@~:� { � } �@� ��� � y1�:� � { z ~��:� }:� z � � z �1{ |:� {y� ���^} { |�� � { z � } � � � � �-� �@~� } � { � �G�G}G�:��� � � � � �@� z � ��x��:�^� � � � { � } �@�$} ��{ |Gz��:� } �^} � z ~�y1z { |G}:~�{ }'� � �${ |Gz��-� ~Gz � �G� � � { z ~�� � � �~:� { � � z {1} �- �� � |Gz �3� � � ¡ � � �.� � � �.{ |:z�� z y� � z�� � �^} �� �G�@�@� �(~@� { � � z {� � } y�{ |Gz3¢8� �Gz ���G{ �@~G�} ��� �@� } y1z3£��:�@� y� � ��z �:� y� �Gz ~�� ��¤�� } ¥(� � � ¦ � � ��� �@~�� � � � �-{ |:z3� �-� � �1� � �^} ��� } � � z�~@� { �� { �@~:� z ~'�G��§-z � ¨@��� � � � � ��� � ��~:z y1} �@� { � � { z�{ |@� {�{ |Gz��:� } �^} � z ~(y1z { |G}:~(�^z � � } � y�.�^z { { z �{ |@� �'� }G� � z � { � } �@� ���@� � � y1z { � � ��y1}:~:z � ��� } �-�@� z ~:� � { � �G��y��@� { � �:} y� � �>~@� � � � z { z� |:} � � z �1��|Gzy1z { |:}:~3z �G{ z �@~:�-{ |Gz1� z � � y©} ���:} �:�@� � � y1z { � � ��y1}:~:z � � �G��{ |:� } �:� |3{ |Gz� z � y� z � �-�@� z �@~:� �:�} �$�^} { |'� � { z � } � � � � �$� �@~'� }G� { � �G�:} �@��� � � � � �@� z � �>� �@~'� �.� � �^� �^� z1} ��~:z { z � { � �G�3� { � �:� { �G� z� �{ |:z.~:� { ���-|@� � |� � z �G�:z � { � �� z y� � �:���:�@~Gz { z � { z ~��G��� } � � z � { � }G�:� �@�^� � � y1z { � � �-� �:�@� } � � |:z � �

ª «:¬ ­ ®�¯ ° ® ° ± ¯ ² ³�¬ ®�® ´ µ µG¶ ¯ · ° ¸�¹ º�· ³ °1»$± · ´ ¯ ± ¼�½ ² ¬ ° ¾G² ° ®-± ¾G¸�¿^¾ À ¬ ¾ ° ° ¯ ¬ ¾ ÀÁ�° ® ° ± ¯ ² ³'Â>¶ ´ ¾G² ¬ ¼>¶ Ã�Â8± ¾G± ¸ ± Ä@· ³ °½ ¶ ² ¬ ± ¼8½ ² ¬ ° ¾G² ° ®-± ¾G¸�Å�´ Æ.± ¾ ¬ · º�Á�° ® ° ± ¯ ² ³'Â>¶ ´ ¾G² ¬ ¼8¶ Ã$Â8± ¾G± ¸ ± Ä>± ¾G¸�¹ º�· ³ °1Ç8´G® ³3È>¯ ¶ À ¯ ± Æ"¬ ¾�· ³ °¿>² ¶ ¾ ¶ Æ-¬ ² ®¶ Ã>È^´ ¹ ¼ ¬ ²-È@¶ ¼ ¬ ² º É�Á$± ² ¬ ¾ °�Ê8¶ ´ ¼ ¸1¼ ¬ Ë °�· ¶.· ³G± ¾ Ë1· ³ °-Ì$½ Í'Î$¬ Ï ¬ ® ¬ ¶ ¾1¶ Ã8½ µG¶ ¾G® ¶ ¯ ° ¸1È>¯ ¶ À ¯ ± Æ.®8à ¶ ¯�· ³ ° ¬ ¯�² ¶ ¾ · ¬ ¾ ´ ¬ ¾ À® ´ µ µG¶ ¯ · É

Page 2: Nonparametric Estimation of Conditional Distributions in the Presence of Continuous and Categorical Data

ÐÒÑ$Ó'Ô�Õ�Ö�×�Ø�Ù.Ô�Ú Ö'Ó

Û-ÜGÝ^Þ^ß à ß Ü:Ý^áGâ>ã^ä ÜGå^á:å^ß â ß à æ�Þ^ç Ý^è ß à æ3é ê^Ý^ë à ß Ü:Ý^è�ì Û-í�îï�ð�ã^â á æ3á�ñGç æ'ä ÜGâ ç�ß Ý3á:ã^ã^â ß ç Þ3è à áGà ß è à ß ë á:â^á:Ý^áGâ òæ@è ß è ó©ô�é à ç Ý4à õ^ç�Û-í�î1ïöß è3ß à è ç â éÜ é�Þ^ß ä ç ë à'ß Ý:à ç ä ç è à3÷�õ^ß â ç�á à(Ü à õ^ç ä3à ß ø3ç è3ß à'ß è'ç ø�å>ç Þ^Þ^ç Þ"ß ÝÜGå@ù ç ë à è�ÜGé�ß Ý:à ç ä ç è à3è ê^ë õoá:è�á�ë Ü:Ý^Þ^ß à ß ÜGÝ^á:â�ç ú@ã8ç ë à á à ß Ü:Ý�Ü:ä�õ^ß û:õ^ç ä�ÜGä Þ^ç ä�ë Ü:Ý^Þ^ß à ß ÜGÝ^á:â�ø3Ü:ø3ç Ý:à óü Ý@é Ü:ä à ê^Ý^á à ç â æGý>á3ã^áGä á:ø3ç à ä ß ë1é ä áGø3ç ÷-Ü:ä ñ'ß è.Ý^Ü à�÷-ç â â ò è ê^ß à ç Þ3é Ü:ä-à õ^çø3Ü@Þ^ç â ß Ý^û�ÜGé�á'Û-í�î1ï-ó>þ Ý(áã^áGä á:ø3ç à ä ß ë�é ä áGø3ç ÷-Ü:ä ñ�÷-ç�÷-Ü:ê^â Þä ç ÿ:ê^ß ä ç�á.é ê^Ý^ë à ß ÜGÝ^á:âGè ã8ç ë ß �>ë áGà ß ÜGÝ1é Ü:ä8à õ^ç8ù Ü:ß ÝGà�Û-í�îï(ë ÜGø�å^ß Ý@òß Ý^ûã8Ü à ç ÝGà ß á:â â æ�Þ^ß ��ç ä ç ÝGà.ø3áGä û:ß Ý^áGâ>Þ^ß è à ä ß å^ê@à ß ÜGÝ^è�é Ü:ä�å8Ü à õ'ë Ü:ÝGà ß Ý@ê^ÜGê^è-á:Ý^Þ'ë áGà ç û:ÜGä ß ë áGâ��GáGä ß á:å^â ç èã^ä ß ÜGä1à Ü(ç è à ß ø3á à ß Ü:Ý8ó3Û-Ü:ø3ã>Ü:ê^Ý^Þ�à õ^ß è1÷�ß à õ�ø3Ü@Þ^ç â ß Ý^û'ê^Ý^ñ@Ý^Ü ÷�Ý�Þ^ç ã8ç Ý^Þ^ç Ý^ë ç'áGø3Ü:Ý^û��GáGä ß á:å^â ç èáGÝ^Þ8ý�ß Ý�à õ^ç3á:å^è ç Ý^ë ç'Ü é�ñ:Ý^Ü ÷�â ç Þ^ûGç'ä ç û:áGä Þ^ß Ý^û(à õ^ç3ê^Ý^Þ^ç ä â æ@ß Ý^û�Û-í�îï-ý$ã^á:ä áGø3ç à ä ß ë�á:ã^ã^ä ÜGá:ë õ^ç èÿ:ê^ß ë ñ@â æ�å>ç ë Ü:ø3ç3ß Ý:à ä áGë à áGå^â çGó��1ß à ë õ^ß è ÜGÝ���1ß à ñGç Ý ì � � �^ý�ã^áGû:ç��� �@ðä ç é ç äà Ü(à õ^ç'è ß ø3ã^â ç è à�ÜGéè ê^ë õ(ã^ä Ü:å^â ç ø3è.áGè�� ã^á:ä áGø3ç à ä ß ë á:â â æ�á ÷�ñ:÷-á:ä Þ��@ó-ï>Ü:ä�à õ^ß è.ä ç á:è ÜGÝ(à õ^ç1Þ^ß ä ç ë à�ø3Ü@Þ^ç â ß Ý^û�Ü é�Û-í�îï�èõ^áGè�ä ç ë ç ß �:ç Þ�â ß à à â ç-á à à ç ÝGà ß Ü:Ý�ç �:ç Ý�à õ^Ü:ê^ûGõ�è ê^ë õ3ø3Ü@Þ^ç â è$ë ÜGê^â Þ�ã^ä Ü �:ç-à Ü1å8ç.ç ú@à ä ç ø3ç â æ��Gá:â ê^áGå^â ç-ß Ýá��GáGä ß ç à æ(ÜGé�è ß à ê^áGà ß ÜGÝ^è ó��.õ^ç�ø3Ü@Þ^ç â ß Ý^û�Ü é�â áGå8ÜGä-é Ü:ä ë çã^á:ä à ß ë ß ã^áGà ß ÜGÝ(ë Ü:Ý^Þ^ß à ß ÜGÝ^á:â8ê^ã8ÜGÝ�á��:ç ë à ÜGäÜ é$ã>ç ä è ÜGÝ^á:â>ë õ^á:ä áGë à ç ä ß è à ß ë è�ì ��ä Ü���ì �����:ð ð ý:à õ^ç�ø3Ü@Þ^ç â ß Ý^ûÜ é$ë Ü:Ý^è ê^ø3ç ä-ë õ^ÜGß ë ç�á:Ý^Þ3à õ^ç�ä ç è ã>Ü:Ý^è çÜ é.ë õ^Ü:ß ë ç è1à Ü�ë õ^áGÝ^û:ç è�ß Ý��Gá:ä ß áGå^â ç è1ß Ý �>ê^ç Ý^ë ß Ý^û�ë õ^ÜGß ë ç�ì ��ø3ç ø3ß æ:á�ì ���� ð ý���ë ï>á:Þ^Þ^ç Ý"ì �����@ð ð ýáGÝ^Þ�à õ^ç'ø3Ü@Þ^ç â ß Ý^û�Ü é1Ý^ÜGÝ^â ß Ý^ç áGä�Þ^ß è ë ä ß ø3ß Ý^áGÝ:à�ä ê^â ç è'ì ��áGä Þ^ß á^ý��ç Ý:à�� .ß å^åGæ ì � � �^ý�Û-õ^á:ã@à ç ä�Gð ð-áGä çá:â â8ç ú^áGø3ã^â ç è.ÜGé�è ß à ê^á à ß Ü:Ý^è�÷�õ^ß ë õ�ë Ü:ê^â Þ(å>çø3Ü@Þ^ç â ç Þ��^ß á�á'Û-í�î1ï-ó�.õ^ç(ß Ý:à ä áGë à áGå^â ç'Ý^áGà ê^ä ç(Ü é1ø3Ü@Þ^ç â ß Ý^û�á�Û-í�î1ï©ß Ýoá�ã^á:ä áGø3ç à ä ß ë3é ä áGø3ç ÷-Ü:ä ñ�áGä ß è ç è�è ß ø3ã^â æ

å>ç ë á:ê^è ç1÷.çáGä çß ûGÝ^Ü:ä áGÝ:à.ÜGé�Ý^á à ê^ä ç�! è�Þ^á à á3ûGç Ý^ç ä áGà ß Ý^û�ã^ä Ü@ë ç è è�ì î�"í-ð ó^í$á:ä áGø3ç à ä ß ë1á:ã^ã^ä ÜGá:ë õ^ç èé ÜGä ë çê^è.à Ü3ø3á:ñGç�# é ê^Ý^ë à ß Ü:Ý^áGâ�û:ê^ç è è ç è !8ã^ä ß ÜGä.à Ü3ç è à ß ø3áGà ß ÜGÝ'÷�õ^ß ë õ�áGä ç�ê^Ý^â ß ñGç â æ'à Ü3å8çë ÜGä ä ç ë à1ß Ýà õ^ß èè ç à à ß Ý^û^ý$á:Ý^Þ�ê^è ß Ý^û(á:Ý�ß Ý^ë ÜGä ä ç ë à â æ�è ã>ç ë ß �>ç Þ�ã^á:ä áGø3ç à ä ß ë3Û-í�î1ï"÷�ß â â�ä ç è ê^â à�ß Ý�å^ß áGè ç Þ�á:Ý^Þß Ý^ë Ü:Ý^è ß è à ç Ý:à�ç è à ß ø3áGà ç è ý�÷�õ^ß â ç3õGæ^ã>ÜGà õ^ç è ß èà ç è à è�å^áGè ç Þ�ê^ã8ÜGÝ�è ê^ë õ�ç è à ß ø3áGà ç è1÷�ß â â�õ^á �:ç3á:è æ@ø3ã@òà Ü à ß ë áGâ â æ'ß Ý^ë Ü:ä ä ç ë à�è ß � ç1á:Ý^Þ(ã8Ü ÷-ç ä ó$ Ü:Ý^ã^áGä á:ø3ç à ä ß ë.ø3ç à õ^Ü@Þ^è ý@Ü:Ý�à õ^ç�Ü à õ^ç ä�õ^áGÝ^Þ8ý^ã>ç ä ø3ß à�ê^è�à Ü�ø3Ü@Þ^ç â^á�Û-í�îï�÷�ß à õ^Ü:ê@à�ä ç ÿ:ê^ß ä ò

ß Ý^ûà õ^áGà-à õ^ç1ä ç è ç á:ä ë õ^ç ä.ë ÜGä ä ç ë à â æ'è ã8ç ë ß é æ3à õ^ç1ê^Ý^ñ@Ý^Ü ÷�Ý(Þ^ß è à ä ß å^ê@à ß ÜGÝ8ý^áGÝ^Þ'á:ä ç1ë Ü:Ý^è ß è à ç Ý:à�ê^Ý^Þ^ç ä

Page 3: Nonparametric Estimation of Conditional Distributions in the Presence of Continuous and Categorical Data

% & ' '�( & ' ) ( * + ) * ,�&�-�' ' .�/�0 ) * 1�2�'3) 4�-�25) 4�1�' &�( & 6�.�* ( & 758 1�(3) 4�&�+ 1�2�' * ' ) & 2�+ 9:1 8�0�-�( -�/�& ) ( * +;/�& ) 4�1 7�') 4�1�.�<�4�-�)�) 4�&=+ 1�' )�1�8>( - ) & '�1�8>+ 1�2�,�& ( <�& 2�+ &=?=4�* + 4�7�& 0@& 2�7�1�2�) 4�&=2�.�/�AB& (�1�8@,�-�( * -�A�% & '�* 2�,�1�% ,�& 7C 1 8 ) & 2�+ -�% % & 7:) 4�&�D + .�( ' &E1 837�* /�& 2�' * 1�2�-�% * ) 9BF G H5IJ4�* '�) ( -�7�& 1�KL* ';+ 1�/�/�1�2�% 9:& 2�+ 1�.�2�) & ( & 7M?=4�& 2+ 4�1 1�' * 2�<:/�1 7�& % * 2�<�0�( 1 + & 7�.�( & '�N;* 8=9�1�.O* /�0@1�' &E% & ' '�' ) ( .�+ ) .�( &E) 4�& 2M9�1�.O2�& & 7O/�1�( &E7�- ) -:* 21�( 7�& (�) 1�-�+ 4�* & ,�&E) 4�&�' -�/�&�7�& <�( & &51 8�0�( & + * ' * 1�2@HOPQ4�& 2M8 -�+ & 7M?=* ) 4O7�* ' + ( & ) &�7�-�) - RJ4�1 ?J& ,�& ( R) 4�&=+ 1�2�,�& 2�) * 1�2�-�%B2�1�2�0�-�( -�/�& ) ( * +J-�0�0�( 1�-�+ 4�.�' & '�-�D 8 ( & 6�.�& 2�+ 9�& ' ) * /�- ) 1�( F�) 1�4�-�2�7�% &�) 4�&=7�* ' + ( & ) &,�-�( * -�A�% & '�A�9�' 0�% * ) ) * 2�<�) 4�&�' -�/�0�% &�* 2�) 1�-�2 .�/;A@& (;1�8=' .�A�' & ) '�1�(�D + & % % ' F HEPQ4�& 2�.�' * 2�<5+ 1�2�,�& 2 N) * 1�2�-�% 8 ( & 6�.�& 2�+ 9 N A�-�' & 7�2�1�2�0�-�( -�/�& ) ( * +J-�0�0�( 1�-�+ 4�& 'J1�2�&3' . K@& ( '�-;% 1�' '�1�8>& S�+ * & 2�+ 9�-�( * ' * 2�<�8 ( 1�/-E( & 7�.�+ ) * 1�2:* 25) 4�&�' -�/�0�% &�' * T &�7�.�&�) 1�' 0�% * ) ) * 2�<�) 4�&�' -�/�0�% &�* 2�) 1E-�2�.�/�AB& (�1 8J+ & % % '�-�2�7:-�% ' 18 -�+ & 'J) 4�&�* ' ' .�&�1 8�4�1 ?Q) 1�-�' ' & ' '=* 2�) & ( -�+ ) * 1�2�& K@& + ) ' HIJ4�* ';0�-�0@& (;+ 1�2�' * 7�& ( ';-�U�& ( 2�& % N A�-�' & 7�' 1�% . ) * 1�25) 1E) 4�&�0�( 1�A�% & /V1 8=/�1 7�& % * 2�<E-5W�X�Y�ZQ-�2�7

( & % -�) & 7:1�A�[ & + ) '�?=4�& 258 -�+ & 75?=* ) 4:A@1 ) 4�+ 1�2�) * 2 .�1�.�';-�2�7:+ - ) & <�1�( * + -�%�7�-�) -�) 9 0@& ' H�P�&�+ 1�2�' * 7�& (4�9 A�( * 7�/;.�% ) * ,�-�( * - ) &�0�( 1 7�.�+ )�U�& ( 2�& % ';* 25?=4�* + 4OD + - ) & <�1�( * + -�%�U�& ( 2�& % ' F\-�2�7OD + 1�2�) * 2�.�1�.�';U�& ( 2�& % ' F+ -�2�A@&�' & -�/�% & ' ' % 9�/�* ] & 7�A�.�* % 7�* 2�<J.�0B1�23) 4�&�?J1�( U31�8�^3* ) + 4�* ' 1�2�_O^3* ) U�& 2 C ` a b c GB?=4�1=0�( 1�0@1�' & 7�-2�1 ,�& %@/�& ) 4�1 7�1 8>2�1�2�0�-�( -�/�& ) ( * +=7�& 2�' * ) 9�& ' ) * /�- ) * 1�2;8 1�(�/;.�% ) * ,�-�( * - ) &JA�* 2�-�( 9�7�-�) - H�d * % ,�& ( /�-�2@F 'C ` a�e�c G=AB1 1�UE-�% ' 1�+ 1�2�) -�* 2�'�-�A�( * & 8�A�. )�* 2 8 1�( /�- ) * ,�&;7�* ' + .�' ' * 1�2:1 8�) 4�& ' &�* ' ' .�& ' H�IJ4�&�0�( 1�0B1�' & 7/�& ) 4�1 7�7�1 & '�2�1�)�' . K>& (�8 ( 1�/gfB2�* ) & N ' -�/�0�% &J& S�+ * & 2�+ 9�% 1�' ' & '�-�( * ' * 2�<38 ( 1�/h' -�/�0�% &J' 0�% * ) ) * 2�<�R�-�2�72�- ) .�( -�% % 9�4�-�2�7�% & '=* 2�) & ( -�+ ) * 1�2E-�/�1�2�<;) 4�&;7�* ' + ( & ) &�-�2�7�+ 1�2�) * 2 .�1�.�'J,�-�( * -�A�% & ' H�IJ4�&�' ) ( & 2�< ) 4�1�8) 4�&�0�( 1�0@1�' & 7�/�& ) 4�1 7�% * & ';* 2�* ) ';-�A�* % * ) 95) 1�/�1 7�& %�' * ) .�-�) * 1�2�';* 2�,�1�% , * 2�<5+ 1�/�0�% & ]�7�& 0@& 2�7�& 2�+ &-�/�1�2�<�+ -�) & <�1�( * + -�%>-�2�7�+ 1�2�) * 2 .�1�.�'=7�- ) -�* 2E-;8 .�% % 9 N 2�1�2�0�-�( -�/�& ) ( * +3( & <�( & ' ' * 1�2�8 ( -�/�& ?J1�( UBHi & % -�) & 7O?�1�( UM* 2�+ % .�7�& '�) 4�- )E1 8;j=-�% % C ` a�e ` G;?=4�1�+ 1�2�' * 7�& ( & 7LA�-�2�7 ?=* 7 ) 4O' & % & + ) * 1�2L* ' ' .�& '

?=4�* + 4;-�( * ' &�?=4�& 2�.�' * 2�<J) 4�&�/�& ) 4�1 7;1 8B^=* ) + 4�* ' 1�2;_L^=* ) U�& 2 C ` a b c GB?=4�& 2;) 4�& ( &�& ] * ' )�& /�0 ) 9;+ & % % '8 1�(�+ -�) & <�1�( * + -�% 7�- ) -3-�2�7�?=4�1�0�( 1�0@1�' & 7;-3( 1�A�.�' )�' 1�% . ) * 1�23) 1=) 4�* '�0�( 1�A�% & /ER�j3-�% % _OP�-�2�7 C ` a�e�e G?=4�1�+ 1�2�' * 7�& ( & 7�2�1�2�0�-�( -�/�& ) ( * +�7�* ' + ( * /�* 2�- ) * 1�2�* 25?=4�* + 4:) 4�&�A�-�2�7 ?=* 7 ) 4�'38 1�(3) 4�&�7�& 2�' * ) 958 1�(& -�+ 450B1�0�.�% - ) * 1�2E-�( &;+ 4�1�' & 2�[ 1�* 2�) % 9 C ) 4�& 95/�1 7�& %\A@1 ) 45+ -�) & <�1�( * + -�%\-�2�75+ 1�2�) * 2 .�1�.�'=,�-�( * -�A�% & ' G R-�2�7LW�4�-�.�7�4�.�( *=_VY�& ?J-�2 [ * C ` a�a�k G�?=4�1�+ 1�2�' * 7�& ( & 7M) 4�& 1�( & ) * + -�%=.�2�7�& ( 0�* 2�2�* 2�<�'�1 8�% * U�& % * 4�1 1 7

l

Page 4: Nonparametric Estimation of Conditional Distributions in the Presence of Continuous and Categorical Data

m n o�p p q r�s�t u v�s w u o�xMy o�n�z@o w {Q|�s�n s�}�~ w n u m�s�x�vLx�o�x�|�s�n s�}�~ w n u m5s�|�|�n o�s�m {�~ pEw o�w {�~5~ p w u }�s w u o�xOo�ym o�x�v�u w u o�x�s�t@|�n o�z�s�z�u t u w u ~ p�y o�nJm o�x�w u x ��o���p=v�s w s�w ��|B~ p �� {�u p3|�s�|B~ n3|�n o m ~ ~ v�p�s�p3y o�t t o �=p �3u x:� ~ m w u o�x:����~�m o�x�p u v�~ n=w {�~���x�v�~ n t ��u x����;�3�\�@�={�u t ~;u x

� ~ m w u o�xE� � �3�J~3o�� w t u x�~Jw {�~3{���z�n u v�};��t w u r�s�n u s w ~J|�n o v���m wJ��~ n x�~ tB�={�u m {�u p�m ~ x�w n s�tBw o�w {�~3m ��n n ~ x�w�Jo�n ���\� ~ m w u o�x5� � ��o�� w t u x�~ pJw {�~;|�n o�|@o�p ~ v�x�o�x�|�s�n s�}�~ w n u m�~ p w u }�s w o�nJo y�w {�~;m o�x�v�u w u o�x�s�t>v�~ x�p u w �y ��x�m w u o�x�s�x�v5u w p3��n s�v�u ~ x�w3u x�w {�~;|�n ~ p ~ x�m ~�o y�m s�w ~ ��o�n u m s�t\s�x�v5m o�x�w u x ��o���p�v�s w s�w � |@~ p ��� ~ m w u o�x� m o�x�p u v�~ n p=s�x���}�zB~ nJo�y�~ }�|�u n u m s�t@s�|�|�t u m s�w u o�x�pJo y\w {�~;|�n o�|@o�p ~ v�w ~ m {�x�u ����~��@� ~ m w u o�x���n ~ |Bo�n w pp u };��t s�w u o�x�n ~ p ��t w p;w {�s�w�~ � s�}�u x�~�w {�~��Bx�u w ~�p s�}�|�t ~�|@~ n y o�n }�s�x�m ~�o y=w {�~�|�n o�|Bo�p ~ vM~ p w u }�s w o�n ��={�u t ~�� ~ m w u o�xE��m o�x�m t ��v�~ p �

���g�\��� ���;��� ���¡ £¢h¤��5¥5� ��� ¤�����¦�§¡¨��5��� �>©«ª¬� ��­¯®°� ±E¨�¥²¢h�;�\³¨3��¤�´�� µJ��¦M���5¥¶¢h¤������ �E·�¤�·5�¸§¡�;���

¹�º »½¼M¾�¿BÀ=Á�ÂBÃ�Ä�Å=ÆV¾�Å=ÆVÇÈÃ�É�¾\ÉBÊ Ã�ÅË ~ wJÌ Í�Î Ï�Ð�ÑÒÌ Í@Ó Î Ô Ô Ô Î Í@Õ Î Ï�Ó Î Ô Ô Ô Î Ï�Ö Ð>v�~ x�o w ~�s�Ì ×>Ø3ÙBÐ q v�u }�~ x�p u o�x�s�t r�~ m w o�n�o yBn s�x�v�o�}Èr�s�n u s�z�t ~ po y;u x�w ~ n ~ p w �=s�x�vLv�~ �Bx�~:ÚÈÑ¯Ì Ú Ó Î Ô Ô Ô Î Ú Õ Ð�s�x�vLÛhÑ¯Ì Û Ó Î Ô Ô Ô Î Û Ö Ð�w oMzB~:×Os�x�v�Ù q v�u }�~ x�p u o�x�s�tn ~ s�t u Ü s�w u o�x�p�o y�ÍÒÑÒÌ Í@Ó Î Ô Ô Ô Î Í@Õ Ð�s�x�v�ÏVÑÒÌ Ï�Ó Î Ô Ô Ô Î Ï�Ö Ð�n ~ p |B~ m w u r�~ t ��� � {�~�Ý o�u x�wJv�~ x�p u w �Eo y\w {�~n s�x�v�o�}Þr�~ m w o�n=Íhm o�x�v�u w u o�x�s�t@o�x�w {�~3r�~ m w o�n�Ï«u pJv�~ �Bx�~ v�s�p

ß Ì Í@Ó Î Ô Ô Ô Î ÍBÕ�à ÏEÓ Î Ô Ô Ô Î Ï;Ö Ð�ÑÞá Ì Í@Ó Î Ô Ô Ô Î Í@Õ Î Ï�Ó Î Ô Ô Ô Î Ï�Ö Ðá â Ì ÏEÓ Î Ô Ô Ô Î Ï�Ö Ð

Ì ã�Ð

�={�u m {��J~�p {�s�t tB�=n u w ~�p u }�|�t ��s�pß Ì ÍEà Ï:Ð�Ѹá Ì Í�Î Ï�Ð

á â Ì Ï:ÐÌ ��Ð

�={�~ n ~ ß Ì ä Ð\v�~ x�o w ~ p�w {�~=v�~ x�p u w ��o�y@Ígm o�x�v�u w u o�x�s�t���|@o�x�ÏM� á Ì ä Ð\w {�~\Ý o�u x�w�v�~ x�p u w ��o y�Ì Í�Î Ï�Ð ��s�x�vá â Ì ä Ð�w {�~�}�s�n ��u x�s�t@v�~ x�p u w �Eo�y\Ï��

Page 5: Nonparametric Estimation of Conditional Distributions in the Presence of Continuous and Categorical Data

å=æ ç è é�ç ê�è3ë è ì íBî�é�ì è3î�æ>ç ê�è�ï�ð�ñ3ò�ó=ô ç ê�ë è ì íBè õ çJç î;ç ê�è3õ î�é�ö�ô ç ô î�é�ô é�÷;ö�ø�ç ø;ô ìJî æ\ô é�ç è ë è ì ç ù�ú�èö�è ûBé�è�ç ê�è�÷�ë ø�ö�ô è é�ç ìJî æ\ü>ý þEÿ ����ó=ô ç êEë è ì íBè õ ç=ç î��¡ø�ì

��� ü@ý þEÿ ������ ü@ý þEÿ ��� ���� �� ý ���� î óLóJè3ø�ë ��ô ç ë ø�ë ô � ��� è ç�þ��Òý þ����� � � � � þ��� � � þ � � � � � � � � þ � ��ö�è é�î�ç èJç ê�è! �è õ ç î�ë�þ��Òý þ � � � � � � þ � �

ó=ô ç ê�ç ê�èJûBë ì ç!" � �ø�ë ô ø#�$� è ì��Bè ô é�÷3ç ê�è=õ ø�ç è ÷�î�ë ô õ ø%�Bî�é�è ì�ø�é�ö�ç ê�è=ë è &�ø�ô é�ô é�÷'"!(�" � �@è ô é�÷�õ î�é�ç ô é#)�*î%)�ì ù,+3ì�óJè � � -.� è ç!�/�Òý ����#� � � � � ���� � � � � � � � � � � � � � ��ö�è é�î ç è3ç ê�è' �è õ ç î�ë!�0�Òý � � � � � � � � � ��ó=ô ç êç ê�è3ûBë ì ç!1 � �ø�ë ô ø%�$� è ì!�Bè ô é�÷�ç ê�è�õ ø ç è ÷�î�ë ô õ ø#�>î�é�è ì=ø�é�öEç ê�è�ë è &�ø�ô é�ô é�÷'1�(�1 � �@è ô é�÷�õ î�é�ç ô é#)�î#)�ì ùú�è2)�ì è43¸ç î:ö�è é�î�ç è�ý þ � ��� ùOúQô ç ê�î%) ç5� î�ì ì�î æ�÷�è é�è ë ø#� ô ç ��óJè�ø�ì ì )$&�èEç ê�ø ç�è ø�õ êOõ ø ç è ÷�î�ë ô õ ø#� �ø�ë ô ø#�$� è'36�7 õ ø�é�ø�ì ì )$&�è3ç ê�è'8 7 ö�ô ì õ ë è ç è9 �ø#� )�è ì!: � � � � � 8 7 (<;3æ î�ë,=��>; � � � � � " ��? 1 � ø�é�ö28 7�@BA ùú�è�é�î óhç )�ë é�î#)�ë�ø�ç ç è é�ç ô î�é:ç îEç ê�è�õ î�é�ì ô ì ç è é�ç�é�î�é�í�ø�ë ø#&�è ç ë ô õ�è ì ç ô &�ø�ç ô î�é:î�æ�ü>ý þ�ÿ ��3ø�é�ö� � ü>ý þ�ÿ ���ô é�ç ê�è�í�ë è ì è é�õ è;î�æ�&�ô C è öEõ î�é�ç ô é�)�î%)�ì=ø�é�ö�õ ø�ç è ÷�î�ë ô õ ø%�D �ø�ë ô ø#�$� è ì ù

E,F EHGBI9J6KDL MONBPQK.R9PQS T�U<M�VL W�W.L R6XZY[L \9P]M^_QW$PQX�`,K.L a]_�S6_�R9M^�`!R�W.L R!b9`,b9Tc _�W$_ú�è4��ë ô è d$�Lë è ô è óç ê�è5ø�í�í�ë î�ø�õ êLî�æ�+=ô ç õ ê�ô ì î�é<e0+=ô ç f�è égý ; g#h%i#��ç î ó�ø�ë ö�ì2f�è ë é�è �3è ì ç ô &�ø ç ô î�éî æ3í�ë î#��ø%��ô � ô ç �:æ )�é�õ ç ô î�é�ì;æ î�ë�õ ø ç è ÷�î�ë ô õ ø#��ö�ø�ç ø5ø�é�öMö�è &�î�é�ì ç ë ø ç èEê�î ó¸ç ê�ô ì�õ ø�éj�@èEø�í�í$� ô è ö:ç îç ê�è�è ì ç ô &�ø�ç ô î�éEî æ�õ î�é�ö�ô ç ô î�é�ø%�@í�ë î#��ø%��ô � ô ç ��æ )�é�õ ç ô î�é�ì ù�k�C ç è é�ì ô î�é�ìJç î�ê�ø�é�ö$� è'&�î�ë è�õ î%&�í$� ô õ ø ç è öõ ø�ì è ì�ô é% �î#� ô é�÷=õ ø ç è ÷�î�ë ô õ ø#� ö�ø ç ø3ì )�õ ê�ø�ì\î�ë ö�è ë è ö�õ ø�ç è ÷�î�ë ô è ì>æ î#� � î ó�é�ø�ç )�ë ø%� � �;ø�é�ö;ç ê�è�ô é�ç è ë è ì ç è öë è ø�ö�è ë�ô ì�ë è æ è ë ë è ö5ç î2+3ô ç õ ê�ô ì î�é�e+3ô ç f�è éOý ; g�h i��=ø�é�ö4l3ø%�$�@è &�ø$-]l3è ë &�ø�é�ì'em=è &n&�è�ý ; g#h%o#�æ î�ëJè C ø#&�í$� è ì=î æ�ì )�õ ê�õ ø ç è ÷�î�ë ô õ ø#�Df�è ë é�è � ì ùm=è õ ø%� � ç ê�ø�ç�óJèJö�è ûBé�è ö53Z�Òý þ � ��� - ø�é�ö�ó�è=õ ø�é�ø%� ì î�í�ø�ë ç ô ç ô î�é�3Lô é�ç î�36��ø�é�ön36p -�ó=ê�è ë è936�õ î�é�ç ø�ô é�ì=ç ê�è�ö�ô ì õ ë è ç è� �ø�ë ô ø%�$� è ì3ô é�3'->ø�é�ö�36p=ô ì=ç ê�è�ë è &�ø�ô é�ô é�÷�õ î�é�ç ô é�)�î%)�ì9 �ø�ë ô ø#�$� è ì ù�q\è ç�36�7�Bè�ç ê�è'= ç ê5õ î#&�íBî�é�è é�ç3î�æ,36�3ø�é�ö�ø�ì ì )$&�è�36�7 ô ì=ø58 7 * õ ø ç è ÷�î�ë �Eö�ô ì õ ë è ç è� �ø�ë ô ø#�$� è ù6+�)�é�ô �ø�ë ô ø ç è

r

Page 6: Nonparametric Estimation of Conditional Distributions in the Presence of Continuous and Categorical Data

s%t u v$t wDx y#u!z { | } ~ � t �%y#u �5�$~%� ~�� �,y �6�n~#v�� � �#�%��� ��� �!�#� �#t v��%�� � �6�{ � � � �6�{ � � � � { ��� ��� ���� �$�  ¡   �$� � x�� �{ � � �B� �{ � �� { y � ¢$t u �6� � t �¤£ �B� � ¥ ¥ ¥ � ¦Q� � §��

�6¢$t u t � { � ��~4� �ny�y � ¢$� v$��¨$~#u ~%�nt � t u ©ª9v$t5y%x!� ¢$t5� v#� t u t � � � v$��x t ~%� «$u t ��y%x!� ¢$� ��s%t u v$t w!� �'� ¢$~%��6¢$t v � {!�O�5�!t�y#��� ~%� v4� ¢$t��n~%¬�� ��«$�­w � s%t w � ¢$y�y���t � � � �n~%� y%u�� ¨$u y#�$~%�$� w � � � t �!x y#u9t ~%} ¢} ~%� t �#y%u ��%� �#t v5�#�5� ~#�n¨$w t6u t w ~%� � �#t!x u t ®#«$t v$} � t � ���6¢$� w t6�6¢$t v � { �>� ¯%z { �,t'y%��� ~#� vn~�«$v$� x y#u �O�$� � � u � �$«�� � y#v~%} u y%� �'� ¢$tn} ~%� t �#y%u � } ~%w��%~%u � ~#�$w t2� t ®�«$~%w�¨$u y#�$~%�$� w � � � t �6x y%u't ~%} ¢} ~%� t �#y%u �.� ©5°!¢$t5¨$u y��$«$} ��s%t u v$t wx y%u6� � � �!�$t ±.v$t ��~%� ² � � �� � � �� � � ���Z³ ´ µ#¶ ´· { ¸ � � � � �{ � � � � �{ � � � � { � ¥ � ¹#�º t ��� ¡{ �Dt�� ¢$t�» � ¢�} y%�n¨Dy%v$t v%��y%x.� ¡ ¼ w t ��½�� ¾ �D�.t,~6«$v$� �%~#u � ~ � t�s%t u v$t w#x «$v$} � � y#v'x y%uQ~6«$v$� �%~#u � ~ � t} y#v%� � v�«$y%«$�!�%~%u � ~#�$w t ¼ ~#v$�2w t �9¿O� ¾ ���Dt9� ¢$t'¨$u y��$«$} �9s%t u v$t wDx «$v$} � � y%v5x y#u6� ¡ ©�Àt9�$t ±.v$t

¿O� �6¡� � �6¡� � Á � �  Ã� ³ µ�¶ � ³ ´ � ¶ ´· { ¸ � Á �$�{ ½>Ä � ¡{ � �.Å � ¡{ � �Á {ÇÆ � � È���6¢$t u t Á {�� �,� ¢$t'� �ny�y � ¢$� v$��¨$~#u ~%�nt � t u!~#� � y�} � ~%� t �5�6� � ¢�} y#v%� � v�«$y%«$�!�%~%u � ~#�$w t'� ¡{ ©°!¢$t'¨$u y��$«$} �6s%t u v$t w]x y%u6�Z��� � � � � ¡ �,� �,� ¢$t u t x y#u t'�%� �#t v2�#�

É � � � � � � � �D� Á ��� ² � � �� � � �� � � � ¿O� � ¡� � � ¡� � Á � ¥ � Ê#�°!¢$t�¨$u y��$«$} �Qs%t u v$t w%x y#u.ËÌ� �D� � �n� w ~#u w �!�$t ±.v$t ��~%� ÉnÍ � Ë � � Ë � � � Í � Á Í �]� ² � Ë �� � Ë �� � � Í � ¿O� Ë ¡� � Ë ¡� � Á Í � ©Î,Ï ÐÒÑBÓQÔ.Õ9ÓQÖn×�Ø#Ù.Ú ÛOÜQÙ.Ú Ý,Õ/Ý,Þ5ß!à áBâ ã�äå t ±.v$t4æ$�5�[� æ �� � � ¥ ¥ ¥ � æ �� ³ ´ � æ$� ³ ´ µ � � ¥ ¥ ¥ � æ$� ³ �n~#v$�çËn�n�è� Ë �� � � ¥ ¥ ¥ � Ë �� ¶ ´ � Ë�� ¶ ´ µ � � ¥ ¥ ¥ � Ë�� ¶ ��� yj�.tu t ~#w � é ~%� � y%v$�!y x�æO~#v$�2Ë0x y%u £ �>� � ¥ ¥ ¥ � ¦ �6¢$t u t ¦ �$t v$y � t �!� ¢$t'� ~#�n¨$w t'� � é t%© å t ±.v$t �$ê ~#v$� � Í

¹

Page 7: Nonparametric Estimation of Conditional Distributions in the Presence of Continuous and Categorical Data

ë ì6í.î�ï#î ð ë ì#ñ òQì ó$ò ônì�ì%ë õ$ö ÷$ø!ù$ú%ñ ú#ônî ë î ñ òDó ì#ñDë õ$î�ð ú ë î ø%ì#ñ ö ð ú#û ï%ú#ñ ö ú%í$û î ò]ö ÷'ü<ú#÷$ý9þjÿ ú#÷$ý'û î ë�����ú#÷$ý���9íDî!ï#î ð ë ì%ñ ò!ì ó]ò ônì�ì%ë õ$ö ÷$ø'ù$ú%ñ ú#ônî ë î ñ ò�ó ì#ñ�ë õ$î6ð ì%÷#ë ö ÷��$ì��$ò�ï%ú%ñ ö ú#í$û î ò�ö ÷nü�ú%÷$ýnþ/ñ î ò ùDî ð ë ö ï#î û ��� î ë ë ö ÷$ø� � ü�� � ü�� � þ�� � þ�� � � � � � � � ��� � ��� ��ú#÷$ý� � � þ�� � þ�� � � � � � � ��ý$î ÷$ì ë î�ô��$û ë ö ï%ú%ñ ö ú%ë î5ù$ñ ì�ý��$ð ë� î ñ ÷$î û ò��$ò ö ÷$ø�ë õ$î'ð ú%ë î ø#ì%ñ ö ð ú%û � î ñ ÷$î û]ö óQë õ$î9ï%ú#ñ ö ú%í$û î9ö ò6ð ú%ë î ø#ì%ñ ö ð ú%û]ú%÷$ý�ú�ð ì%÷#ë ö ÷��$ì��$ò � î ñ ÷$î ûDó ì#ñð ì#÷%ë ö ÷��$ì��$òný$ú%ë ú�ÿ,ë õ$î2ù$ñ ì#ù.ì#ò î ý � î ñ ÷$î û6î ò ë ö ônú ë ì#ñ�ì ó'ú�ð ì%÷$ý$ö ë ö ì#÷$ú%û!ý$î ÷$ò ö ë �jî ï%ú%û �$ú%ë î ýçú ënë õ$îù.ì#ö ÷%ë�� ü�� � þ�� �,ö ò!ø#ö ï#î ÷�í��

�� � ü�� � þ�� � �"!$#� %'& "� ü � � ü � � þ � � þ � � ����� ����� � � � � � �!$#� %'& � � þ�� � þ�� � � � � � � � �)(��+*�� , , , � -., � /��

0 õ$ö ò�ö ò�î ò ò î ÷#ë ö ú%û û ��ë õ$î6ñ ú%ë ö ì'ì óDë 1,ì�2�ú%ñ 3 î ÷4� * 5�6�7��Qî ò ë ö ônú ë ì#ñ ò ÿ#ë õ$î98.ñ ò ë!í.î ö ÷$ø9ë õ$î6î ò ë ö ônú%ë ì%ñì óQë õ$î9: ì#ö ÷%ë6ý$î ÷$ò ö ë �2ì%ó;� ü � þ��,ø#ö ï#î ÷�í���< � ü�� � þ�� � � *- #= � %�& >� ü�� � ü�� � þ�� � þ�� � � � � � � � ����� ��� ���)(��+*�� , , , � -., � 5��

ú%÷$ý2ë õ$î'ò î ð ì%÷$ý�íDî ö ÷$ø�ë õ$î'î ò ë ö ônú ë ì#ñ,ì%óQë õ$î'ônú#ñ ø%ö ÷$ú#û.ý$î ÷$ò ö ë ��ì óQþ ø%ö ï#î ÷2í���< � � þ�� � � *- #= � %�& � � þ�� � þ�� � � � � � � �'�?(��@*�� , , , � -., � * A��

ö ÷B16õ$ö ð õ4ë õ$î�ò ônì�ì ë õ$ö ÷$ø5ù$ú%ñ ú#ônî ë î ñ6ï#î ð ë ì%ñ�� � � � � � �!ó ì#ñ6ë õ$î�ð ì%÷$ý$ö ë ö ì#÷$ö ÷$øný$ú%ë ú5ö ò9ö ý$î ÷%ë ö ð ú%û]ó ì#ñí.ì%ë õ�ë õ$îC: ì#ö ÷%ë�ú%÷$ýônú#ñ ø%ö ÷$ú#û�ý$î ÷$ò ö ë �î ò ë ö ônú ë ì#ñ ò � 0 õ$ö ò�ônö ñ ñ ì%ñ ò9ë õ$înó ñ ú#ônî 1!ì%ñ � �$ò î ýó ì%ñ'ë õ$îD ú#ý$ú%ñ ú �#ú�E Fú%ë ò ì%÷�� D ú#ý$ú%ñ ú �#úB� * 5�6�G�� ÿ�Fú ë ò ì#÷4� * 5�6�H�� ��î ò ë ö ônú%ë ì%ñ,ì óQú�ð ì%÷$ý$ö ë ö ì#÷$ú%û.î I�ùDî ð ë ú ë ö ì#÷ö ÷C16õ$ö ð õ'ë õ$î � î ñ ÷$î û#ó �$÷$ð ë ö ì%÷�ö ÷9ë õ$î,÷��$ônî ñ ú%ë ì%ñQú%÷$ý�ý$î ÷$ì%ônö ÷$ú%ë ì%ñ]î ônù$û ì �9ë õ$î,ò ú%ônî�í$ú#÷$ý�16ö ý�ë õ$ò �

J ú#÷$ý�16ö ý�ë õ4ò î û î ð ë ö ì%÷4ð ú#÷4ù$ñ ì�ð î î ý�ï$ö ú5û ö � î û ö õ$ì�ì�ý�ð ñ ì#ò ò E ï%ú#û ö ý$ú ë ö ì#÷'� 0 õ$î ì%ñ î ë ö ð ú#û�ñ î ò �$û ë ò6ó ì#ñð ì#÷$ò ö ò ë î ÷$ð ��ì ó�û ö � î û ö õ$ì�ì�ý2ð ñ ì#ò ò E ï%ú#û ö ý$ú ë ì#ñ �5í$ú#÷$ý�16ö ý�ë õ�ò î û î ð ë ö ì#÷5ó ì#ñ!÷$ì#÷$ù$ú%ñ ú#ônî ë ñ ö ð'î ò ë ö ônú%ë ì%ñ òì ó]úLK92 MLN4�$ò ö ÷$ø'ð ì%÷#ë ö ÷��$ì��$ò�ý$ú ë ú'ð ú#÷ní.î,ó ì��$÷$ý�ö ÷�K,õ$ú��$ý$õ��$ñ ö�O+M9î 1,ú#÷ : öP� * 5�5�G�� ��Q ë,ö ò � ÷$ì 16÷Dÿõ$ì 1,î ï#î ñ ÿ.ë õ$ú ë6ônú I$ö ô��$ôû ö � î û ö õ$ì�ì�ýnð ñ ì%ò ò E ï%ú%û ö ý$ú%ë ö ì%÷5ð ú#÷2í$ñ î ú � ý$ì 16÷R16õ$î ÷5ë õ$î9ý$ú%ë ú�ö ò,ý$ñ ú 16÷6

Page 8: Nonparametric Estimation of Conditional Distributions in the Presence of Continuous and Categorical Data

S T U�VWS X Y Z Y X�[ \ ] ^_^�[ ` Y T [ a�b�Y [ U�c�`;d�e�[ f e�[ `CU S9f U�c�f ] T c4d�e�] c4d9]�V�[ g_f U�c�Y [ c�b�U�b�`�h�X�T [ X�a�\ ] `�[ c_d�[ Y eY e�]�^�[ ` f T ] Y ]�h�X�T [ X�a�\ ] `Ri ` ] ]RjCX�\ \�i k l�m�n�o p q�j�X�\ \;i k l�m�n�r p p sBtCcuX�\ Y ] T c�X Y [ h�]�Y U_\ [ v�] \ [ e�U�U�^4f T U�` ` Zh�X�\ [ ^�X�Y [ U�c�[ `.Y ULf e�U�U�` ]Li wPx y�pPY U�V�[ c�[ V�[ z ] Y e�]9d;] [ {�e�Y ] ^�[ c�Y ] {�T X�Y ] ^�` |�b�X�T ] ^�^�[ }P] T ] c�f ]�a�] Y d;] ] c~� i �P� �'pLX�c�^ � i �P� �Pp�d�e�[ f eu[ `Lv�c�U d�cuc�U�YLY U4` b�}'] TLS T U�V�Y e�]RX S U�T ] V�] c�Y [ U�c�] ^u��T U�a�\ ] V�` sB��` [ c�{Y e�]Bc�U�Y X Y [ U�c������9���@���$� �.��� �.������� ����� q Y e�] c�X4d;] [ {�e�Y ] ^�[ c�Y ] {�T X�Y ] ^�` |�b�X�T ] ^�^�[ }'] T ] c�f ]a�] Y d;] ] c ~� i � p9X�c�^ � i � p [ `

� � ���+� ~� i �P� �Pp.� � i �P� �'p � � � � i �'p����9������+� ~� i �P� �Pp � � � � i �'p����9���R��� � ~� i �P� �'p � i �P� �'p � � i �Pp���� �������+� � i �P� �Pp � � � � i �Pp���� ���� � � �L� � � � �C���$� � i �P� �Pp � � � � i �Pp����9���.x i k�k p

d�e�] T ] � � ��� � � ~� i �P� �'p � � � � i �'p����9���Pq � � � � ��~� i �P� �'p � i �P� �'p � � i �Pp���� ���Pq;X�c�^ Y e�]_\ X�` Y�Y ] T V�U�cY e�]_T [ {�e�Y Z e�X�c�^�Z ` [ ^�]BU�SL� |�b�X Y [ U�c+i k�k p�^�U�] `Rc�U YB^�] �'] c�^$U�c�] [ Y e�] TRw�U�TRy's@ C] ¡�c�] ~¢�i �Pp_�� � ~� i �P� �'p � � ����s�£;e�] c4d9]�e�X h�] � � � � � ~¢Ri �'p � � i �Pp ��� �¥¤R� ~¢�i ¦up � s�£;e�] T ] S U�T ] qPd;]�] ` Y [ V�X Y ] � � �a�§ ~� � � � k¨B©�ª ~¢Ri ¦ ª p « i k���p

¬ U�Y ]LY e�X�Y � � �R� ��~� i �P� �'p � i �P� �'p � � i �Pp���� ���4� ��~� i �P� �Pp �.i ��x �Pp��������4�¥¤R� ~� i ­B� ¦up � sLj�] c�f ]�qd;]L] ` Y [ V�X�Y ] � � ���$¤R� ~� i ­B� ¦up �Pa�§~� � ��� k¨_©�ª ~� i ­ ª � ¦ ª p « i k ®�p

 C] ¡�c�]R¯ � ° ª ± �>¯ i ¦ ª x ¦ ± x w � x y � p q�¯ � ° ª ± �>¯ i ­ ª x ­ ± x w � x y � p q X�c�^u¯ � ° ± �W¯ i ��x ­ ± x w � x y � p s£;e�] c_b�` [ c�{�� |�b�X�Y [ U�c�i n�p d9]�e�X h�]

~¢Ri ¦ ª p��²�+� ~� i �P� ¦ ª p � � ���n

Page 9: Nonparametric Estimation of Conditional Distributions in the Presence of Continuous and Categorical Data

³µ´;¶�·¸.¹ º�» ¼�½ ¾ ¿ À�Á�º¶�·¸ Â�¹ ¼ ½ ¾ ¿ À³ÄÃPÅ À'Æ�ÇPÆ$È É�Â Ê ½ Ç É�Â Ê ½ È ´ É�Ë Ê Ç É�Ë Ê È Á�º¶�·¸  ¹ ÌP¾ ¿ À³ÄÃPÅ À'Æ�ÇPÆ$È É�Â Ê ½ Ç É�Â Ê ½ È É�Í À ÎË Ê Ç È¶�·¸  ¹ ¼�½ ¾ ¿ À ¹ Ï Ð�¾

Ñ�Ò�Ó Ô Ó É�Í À ÎË Ê Ç Ê È ³ Õ Í À Î ¹ Ö�×Ç » Ö�×È » Ø�Ë ¾ Ù Í À Î ¹ Ö�Ú½ » Ö�ÚÇ » Û�Ë ¾ Ñ�Ü Ý Ò Õ Í À Î ¹ Ö�×Ç » Ö�×È » Ø�Ë ¾ ³ Æ Ë Þ Õ ¹ Ö�×Ç » º�× » Ø�Ë ¾ Õ ¹ Ö�×È » º�× » Ø�Ë ¾ ßÙ Í À Î ¹ Ö Ú½ » Ö ÚÇ » Û�Ë ¾ ³$à�á Þâ ã'ä Û Å äË Ê â å Í À Î ¹ æ�çè Å æ�çéê ë ì í ¾.î�ï�ð å Í À Î ¹ ñ�¾ ³ ´ å ¹ ò9óBñ�¾ å ¹ ò'¾�Á�ò Ü ô.Ý Ò�Ó;ô Ó õ ö ï�ð ö�Ô ð Ó Ôõ ö ï�÷ ö�ø ù�Ý Ü ö ïBú Ó Ô ï Ó ø ð Ó Ô Ü ÷ Ó ðBû Ô ö�ü å ¹ ý ¾ þÿ Ò�Ó Ô Ó û ö�Ô Ó ß Ñ;ÓLõ Ò�ö�ö�ô Ó ¹ Ø'» Û�¾ Ý ö�ü�Ü ï Ü ü�Ü � Ó���R¹ Ø'» Û�¾�� ·� ä ��� ·� À �³ à Šä

�� ½ ã�ä ÃPÅÀ'Æ �Ç ã'ä Æ � È ã'ä É�Â Ê ½ Ç É�Â Ê ½ È É�Í À ÎË Ê ½ Ç

¶�·¸  ¹ ¼�½ ¾ ¿ À � ·¸.¹ Ö�½ » ¼�½ ¾·¸  ¹ ¼�½ ¾ ¹ Ï���¾� ÓRù�ô Ó ¹ ·ØP» ·Û�¾ Ý ö ð Ó ï ö�Ý Ó�Ý Ò�Ó î�� ö ÷ ÓBõ Ô ö�ô ô � ÷�î ø Ü ð�î Ý ö�Ô �uõ Ò�ö�Ü õ ÓRö û�¹ ØP» Û�¾ þ ÿ Ò�Ó û ö�ø ø ö Ñ�Ü ï��_î ô �ô ù�ü���Ý Ü ö ï ô î Ô ÓLù�ô Ó ð Ý ö ð Ó Ô Ü ÷ ÓCÝ Ò�ÓLÔ î Ý Ó ô�ö û õ ö ï�÷ Ó Ô � Ó ï õ Ó�ö û;¹ ·ØP» ·Û�¾9î�ï�ð ·¸.¹ ��¾ þ��� � ���! #" $ %'&)( �+*-,�¹ Ü ¾/.�0�½ 1 �½ ã�ä ³ . ¼�½ » Ö�½ 1 �½ ã'ä Ü ô�Ü þ Ü þ ð'þCî ô 0 ³ ¹ ¼4» Ö�¾ ß32Bß Ý Ò�Ó�ô ù�����ö�Ô ÝCö û

0�× ß Ü ô54 ï Ü Ý Ó ß�î�ï�ð7698 Ã#: ; Þ < =#> ? ¹ ��× ¾5@BA�û ö�Ô�ô ö�ü�Ó ADCFE�þL¹ Ü Ü ¾HG Ó Ý ¸.¹ º#I ÌP¾9ð Ó ï ö�Ý ÓCÝ Ò�Ó�õ ö ï�ð Ü Ý Ü ö ï�î øð Ó ï ô Ü Ý � û ù ï õ Ý Ü ö ï ö ûLÖJ� Ü ÷ Ó ï�¼ ³ Ì.ß;î ô ô ù�ü�ÓBÝ Ò î Ý ¸�¹ ý I Ì'¾ Ü ô û ö�ù�Ô�Ý Ü ü�Ó ô ð Ü KPÓ Ô Ó ï Ý Ü î�� ø Ó ß;î�ï�ðî ô ô ù�ü�ÓCÝ Ò î Ý ¸.¹ º#I ÌP¾9î�ï�ð Ü Ý ô ð Ó Ô Ü ÷�î Ý Ü ÷ Ó ô î Ô Ó � ö�ù ï�ð Ó ð ö ï Ý Ò�ÓLô ù����'ö�Ô ÝCö ûH0�Ú�û ö�Ô î ø ø ��×ML72Bþ��� � ���! #" $ %'& ( �9N',C¹ Ü ¾ ÿ Ò�Ó ú Ó Ô ï Ó ø û ù ï õ Ý Ü ö ï å ¹ ý ¾ Ü ô ï ö ï � ï Ó ��î Ý Ü ÷ Ó ß�� ö�ù ï�ð Ó ð�î�ï�ð ô ��ü�ü�Ó Ý Ô Ü õî Ô ö�ù ï�ð � Ó Ô ö ß.î ø ô ö ´ å ¹ ñ�¾�Á�ñ ³ Ï�ß ´ å ¹ ñ�¾ ñ�O�Á�ñ7P)Q$þ�¹ Ü Ü ¾ ·Û ø Ü Ó ôCÜ ï_î ô Ò�Ô Ü ï�ú Ü ï�� ô Ó Ý�R � ³ .�Û+SÛ9L7T9U.» Û ³FV ¹ Ï�¾ » ¹ à Û�W ¾ Å ä ³XV ¹ Ï ¾ 1R¹ Ó þ ��þ ß'YDZî Ô ð ø Ó[]\ î Ô Ô ö ïu¹ Ï ^�_�`�¾ ¾ þa�b�c %'d c �eN3f * g#h3i-j k�l m m n-o/p'q r s h�m�t uv w�l�h'ixt u/y w z|{Hj/}�l�~�j·� ¹ º#I ÌP¾ � � ¹ º#I ÌP¾ ³FV W ¹ Ï�¾ z#p'k s ~ r i-j i � ¹ º#I Ì'¾|@FA� s k/m s o�j5A�CXE'�� Ô ö�ö û S ÿ Ò�Ó9��Ô ö�ö û;û ö�ÔLÝ Ò�Ó � Ó ï Ó Ô î ø9õ î ô ÓBÜ ôD��ù�Ü Ý ÓRÝ Ó ð Ü ö�ù�ô þ!Y Ó Ô Ó�Ñ;ÓBö ï ø �!��Ô ö ÷ Ü ð Ó î ��Ô ö�ö û;û ö�Ô

_

Page 10: Nonparametric Estimation of Conditional Distributions in the Presence of Continuous and Categorical Data

� ���D� � ����� ��� ��� ���M��� � ���M�� �/�9����� � � ����� � � � ���� ����� �9����� � ����� ���#�M�D�X� �-� ��� � �  �¡ � ¢�£/� � ¤-�3�5���M� � ���� � �����7¥¦�§#¨ ¥¦9© ¤��5��� �'ª ¨ ��� « « « � ¬ �®­x¯�� ¢° � � � �®��¤�� �|� ��� �®�M��� � ¦�¨ �-� ¥±3² ³#´ µ � ¦�¨ ����¥¶�· �3� � ¤���� �#� ���5��� ����� © � � ¸-��� ��� �D¹�� � ��� ��� � � � ����� ¤��¤ © ±3² ³#´ µ · �H����º��5�9¹-��¤ �»� ����� ±#² ³#´ µ � ¦F¨ ����¥¶'·�¨½¼ ¡ ² � · �3� � ����� � ¥¶ �)¾D¿-¢XÀ5��� � © � ¤��J�XÁ ¿ ² ¥¦ � ¥¶'· Á  ¿ ² ��� ¥¶'·|¨X¼ ¡ ² � · ���H��Ã�� �² � ·  ¿ ² ¥¦ ��¥¶'·|¨F¼ ¡ ² � · ¢Ä � Å�� �3¤����� ���7� ��¤ �F� �����5�M��� � ¦!ƨX¼ ¡ ² � · �² � � ·  ¿ ² ¦ ��¥¶'·®¨FÇ�È Â ¿ ² ¦ ��¥¶'· É ­ ¼ ¡ ² � ·|¨BÊFË Ì � �  -¡ � ÍÎ Ï'ÐÒÑ Î ¦ Î ­ ¼ ¡ ² � ·®¨FÓ ¡ ² � ·MƨF¼ ¡ ² � · ��M��� � � Ñ Î Ô �5��� �/� ¤���� � ����� �M����º9� ¤����/¤ © � ��� �Õ��� �/��¤��-Ö × � � ¤�¢|À5��� �M� � �  ¿ ² ¦ ��¥¶'· � ���9�'�� Å�������º�� º���M���M�D�3¤�� ����¤���� ��� © ����� � � ¤��9¤ ©|¦ ¢² � · ����º ² � � · � ����� �!� ��� � ¥¦B¨½¼ ¡ ² � · ¢FÀ5��� © ��� ��� ��� � ¥¦Ø¨½¼ ¡ ² � · ����ºØ¥¶ �]¾�¿!� ����� �+� �����

¥±3² ³#´ µ ·�Ù ±3² ³#´ µ ·®¨F¼ ¡ ² � · ¢|À5��� �M� ¤������ � � � �H� ������ ¤-¤ © ¤ © À5��� ¤�� � �ÛÚ�¢ ��¢

ÜÞÝJßà|á7ßâ ãØä�å®æ çéè�å®æ ê�áëêDì)í µ3î�ï ðòñ óõôöM© � � ��� ��� � � � � �5� � � �|� �D� ���/� � � �3¤���� �/¤ © � ���/÷Hø|ù ° � ¤� ������Ã�� �H� �D� ���M� ¤���º�� � � ¤���� ��Ã/����� � ����� � � ¢�ú!�� ����� �®� ��� �#� ��� �M��� � � ¤��/¤ © � � � �3¤���� � ��ûDü ±3² ý9´ þ ·M¨)ÿ ±#² ý9´ þ · ��ÿ þ ¢ ° ¤��/� ¤���� � �-��¤����� ¤���º�� � � ¤���� ��Ã����� � ����� � � þ�� �H����� ¤��3¤�� ���¹�� � ��� �#� � � � ��� � ¤��H¤ © û ü ±#² ý9´ þ · Ã�� ��� �7����û���� ¥±3² ý� ´ þ�� ·|¨ ÿÿ þ �� Ê ¿� Ï3Ð ��� ý � � ý � � þ � � þ � � ¦ �� � ¦ � � ¦ �¡ � ¦ ¡ �Ê ¿� Ï'Ð�� ü � þ � � þ � � ¦ �¡ � ¦ ¡ � �

¨ ÿÿ þ ���� Ê � ² � ·Ê � ü ² � ·��¨ Ê � ü ² � ·�Ê ��� ² � ·#Ù Ê � ² � ·'Ê ���ü ² � ·È Ê � ü ² � · É Ë ��� ¡ ��¡ � ² � � ·�M��� � � ��� ² � ·�¨ ÿ � ² ý � � ý � � þ � � þ � � ¦ � ¶'·�� ÿ þ��� ����º ���ü ² � ·D¨»ÿ � ² þ � � þ � � ¦ ü � ¶ ü ·���ÿ þ��� ��� ��� ���² ¯ Ù ¯'� · Ö º�� ��� ��� � ¤������3������� ��� � � ���3º�� � � ��� � � ��� �5¤ © � ���� � � �'� � � � ������� ¤-º���� �/¹�� � ��� � © ����� � � ¤���� ¢�

Page 11: Nonparametric Estimation of Conditional Distributions in the Presence of Continuous and Categorical Data

��! #" $!% & '(�! ) " $!*�+!$! ) $(,�* & - ./$( ,�) % $! ) * 021 � " 3�- ) 4�'�3�5/�!4�$!4�$(- - 3�6�& 7�" $ % & '!�( ) " $(*/+!$( ) $!,�* &98�:; .< &97�& =4�&9% >�&?7�) @/& & 4�" &?,& % < & & 4�% >�&?ACBED9� < >�& 4�8�:;�FHG $(4�7I8�:;?F 8�:;IJ G�K 8�:;�KHL ;NMPO!Q% ��,/& R J S�T U 8 :;9FVG W X X X W 8?Y F 8�Y QZM R J ST!X X X W S[(U 8 :;9F 8 :;(W X X X W 8?Y F 8�Y Q X J O!\!Q< >�) " >I) -]4�$!% 3� $!* * 02& - % ) 6�$ % & 7I3�- ) 4�'^_�`Za!bR J ST U 8 T Q F bR J S�T U 8 :; FVG�W X X X W 8�Y F 8?Y QZM bR J ST(X X X W S/[(U 8 :; F 8 :; W X X X W 8?Y F 8?Y Q XcJ O d(Qe]>�$ %]) - .(1 �! C" $!% & '(�! ) " $!*�+!$! ) $(,�* & - < &#" �(6�5�3 % &f & - 5/�!4�- &#- ) 6�5�* 0�,!0�% >�&f7�) @/& & 4�" &f) 4�% >�&#ACBED9�< >�& 4I$�" $ % & '!�( ) " $(*+!$! ) $(,�* &]% $!g!& -]�!42% >�&f+!$(* 3�& G +(& - 3�-f) % -C- $(6�5�* &f & $!* ) h $ % ) �(4 < >�) * &#$!* */� % >�& +!$! ) $(,�* & -]$!- - 3�6�&#% >�& ) ]- $!6�5�* &9 & $(* ) h $!% ) �!4�- ijlknm�m�o p q]r?sNp t2u�vwfx y{z}|]~9�Z� � �#����� ��f�Z��� ���(�� ���V�N�����&I,& '!) 4 < ) % >�5& >�$!5�-�% >�&I6��!- % < & * * � < �! 4�5/�!* 0�" >�� % �(6��!3�-�7�$ % $�- & %2) 4�& � ) - % & 4�" &!.C% >�&2� ) -7�$ % $2- & %9 & 5/�! % & 7�) 4I�N) - >�& J O �(�!� Q i]e]>�&?7�$ % $2 & 5/�! %f1 �(3� ]" >�$( $!" % & ) - % ) " - J - & 5�$!* < ) 7 % >/./- & 5�$(** & 4�'!% >/.�5& % $!* < ) 7 % >�$!4�7�5/& % $(*Z* & 4�' % > Q �!1N% >� & &�- 5& " ) & -#�!1C� ) -f�� < & .Z$!4�7�% >�& &�$! &�� F O � G�!,�- & +!$ % ) �(4�- i�e]>�&�'!�($!* .�'() +(& 4�% >�&�1 �!3� 96�& $(- 3� & 6�& 4!% - .N) -#% �I5� & 7�) " % < >�) " >��!4�&�� 1C% >�&?% >� & &- 5& " ) & -f�!1E� ) -]�� < & f% >�&?6�& $(- 3� & 6�& 4!% -#$( &9* ) g!& * 02% ��>�$ +(&�" �(6�&#1 �(6Ii]e]>�) -f) -f$ < ) 7�& * 0�3�- & 7$!4�7�5�3�,�* ) " * 0�$ +!$() * $!,�* &�,/& 4�" >�6�$( g�1 �! ?+!$! ) �(3�-?" * $!- - ) =" $ % ) �(4�$!4�7�7�) - " ) 6�) 4�$ % ) �(4�% & " >�4�) � 3�& - .$!4�7 < &#$!7��(5 %]) %C1 �! E% >�) -C5�3� 5�(- & iED9$ % $?" $!4I,&#7�� < 4�* �!$(7�& 721 �!6�% >�&#�(% $!% * ) ,�$! " >�) +(& -]* � " $!% & 7$ % � �(�  C¡ ¢(¢ £ ¤ ¥C¦ § �¨ �]¦ © ª(«]¦ ¬(­!«¢ ®�¯ °(±�¢ ®¨!��¨(²¤!£ ¬ §(¢(³�¤ § ��¬(´Eµ § ¶ ´¤ §Z¦ � �(ª£O G

Page 12: Nonparametric Estimation of Conditional Distributions in the Presence of Continuous and Categorical Data

·]¸�¹?º »(¼�½!¹?¾ ¿(À�À�¿!¼�Á Â2à ¿(Ä�¼�Å�Æ(ÂIÇ!»!º È ¿(Ä�ÉfÅ�È É ¾ º È À�È ¼�»(¼!Ê#À�¹ Ê ¸�¿ Å�ÉfÈ ÉfË(Ì Í Ë!Ë Î�ÏfÐfÉ È ¼�½�Ê ¸�¹?Ñ�º ¿!ÍÑ¿(É ¹ Å�À�¹ Ê ¸�¿ Å�ÒfÈ Ê ¸�Æ�»(¼�Å ÒfÈ Å Ê ¸�É?É ¹ Á ¹ ¾ Ê ¹ Å�Ç�È »�Ê ¸�¹2Ñ�º ¿!Ñ/¿!É ¹ Å�À�¹ Ê ¸�¿ Å�¿!Ãf¾ º ¿!É É Í Ç!»!Á È Å�»!Ê È ¿!¼/ÓZÊ ¸�¹Ñ�º ¿!Ñ/¿!É ¹ Å�Ê ¹ ¾ ¸�¼�È Ô(Ä�¹9¾ ¿(º º ¹ ¾ Ê Á Â2Ñ�º ¹ Å�È ¾ Ê ÉCË(Ì Ï Õ!Î�¿ ÃZ»(Á Á¿(Æ�É ¹ º Ç!»!Ê È ¿!¼�É ÏEÖ#¿ ÒC¹ Ç(¹ º Ó×NÈ É ¸�¹ º Ø É]À�¹ »(É Ä�º ¹ ÍÀ�¹ ¼(Ê É#Ò]¹ º ¹2Å�È É ¾ º ¹ Ê ¹�È ¼�¼�» Ê Ä�º ¹�»!É9Ê ¸�¹ Â�Ò]¹ º ¹2º ¿!Ä�¼�Å�¹ Å�»!¼�Å�º ¹ ¾ ¿(º Å�¹ Å�ÒfÈ Ê ¸�¼�¿�Å�¹ ¾ È À�»!ÁEÑ�Á »!¾ ¹ É Ó»!¼�Å�É ¿�Ê ¸�¹ º ¹�ÒC¹ º ¹2¿!¼�Á Â�Ù!ÙIÄ�¼�È Ô Ä�¹�Ç!»(Á Ä�¹ É9à ¿(º9É ¹ Ñ�»!ÁEÒfÈ Å Ê ¸/ÓNÚ(ÛIà ¿!º?É ¹ Ñ�»!ÁCÁ ¹ ¼�½!Ê ¸/ÓEÙ Û�à ¿!º?ѹ Ê »!ÁÒfÈ Å Ê ¸�»(¼�Å�Û(Ü2à ¿(º9Ñ/¹ Ê »(ÁEÁ ¹ ¼�½ Ê ¸/Ï�Ý Ê�È É?¿ ÃfÈ ¼!Ê ¹ º ¹ É Ê?Ê ¸�¹ º ¹ à ¿(º ¹�Ê ¿�À�¿ Å�¹ ÁNÊ ¸�¹ É ¹2À�¹ »!É Ä�º ¹ À�¹ ¼(Ê É?»(ɾ »!Ê ¹ ½(¿!º È ¾ »!ÁZº »!Ê ¸�¹ ºfÊ ¸�»(¼�¾ ¿!¼(Ê È ¼(Ä�¿(Ä�É Ï9Þ#Ñ�Ñ�Á È ¾ »!Ê È ¿!¼�¿!ÃEÊ ¸�¹?Ñ�º ¿(Ñ¿(É ¹ Å�À�¹ Ê ¸�¿ Å�Ê º ¹ » Ê È ¼�½�Ê ¸�¹�À�¹ »!ÍÉ Ä�º ¹ À�¹ ¼!Ê Éf»(É]¾ »!Ê ¹ ½(¿!º È ¾ »!Á/º »!Ê ¸�¹ ºCÊ ¸�»(¼I¾ ¿(¼!Ê È ¼ Ä�¿!Ä�Éf¾ ¿(º º ¹ ¾ Ê Á Â2Ñ�º ¹ Å�È ¾ Ê É9ß à(à(Î�¿!ÃN»!Á Á/¿(Æ�É ¹ º Ç!»!Ê È ¿!¼�É Ï·]¸�È É?É È À�Ñ�Á ¹�»!Ñ�Ñ�Á È ¾ » Ê È ¿(¼�É Ä�½(½!¹ É Ê É?Ê ¸�» Ê?Ê ¸�¹2Ñ�º ¿!Ñ/¿!É ¹ Å�À�¹ Ê ¸�¿ Å�¾ »!¼�Ñ/¹ º à ¿(º À�»(É9Ò]¹ Á ÁC¿!º?Æ/¹ Ê Ê ¹ ºÊ ¸�»!¼�¾ ¿(¼!Ç(¹ ¼!Ê È ¿(¼�»!Á�Ñ�»(º »!À�¹ Ê º È ¾#À�¿ Å�¹ Á É Ïáfâ ãåä}æ]ç9èZé ê ë#ìîífï�ê ð ð�ñ�òEó?æEôPä}òNôõEè�öP÷�òNô�öê øZê ùfòNöê æ]ë׿!º�¿(Ä�º�¼�¹ ú Ê2»!Ñ�Ñ�Á È ¾ » Ê È ¿(¼�ÒC¹�Ä�É ¹IÊ ¸�¹IÅ�»!Ê »�¿!Ã9û9¹ º ü¼Hý ß Ë!Ë(Ì(þ9Òf¸�¿�À�¿ Å�¹ Á É?Ê ¸�¹IÁ »(Æ¿(º�À�»!º ÿ!¹ ÊÑ�»!º Ê È ¾ È Ñ�» Ê È ¿(¼I¿ ÃEÀ�»(º º È ¹ Å��(ÒfÈ É ÉfÒC¿(À�¹ ¼�Ä�É È ¼�½�»2¾ º ¿(É É Í É ¹ ¾ Ê È ¿(¼�Å�» Ê »2É ¹ Ê9¿!ÃEÉ È � ¹������ Õ!Ù�¸�» Ç È ¼�½É È ú�¹ ú Ñ�Á »(¼�» Ê ¿(º Â�Ç!»!º È »(Æ�Á ¹ É Ï�Öf¹2Ä�É ¹ É�»�Eº ¿!Æ�È Ê�À�¿ Å�¹ ÁE»(Á ¿!¼�½IÒfÈ Ê ¸�Ê ¸�º ¹ ¹2É ¹ À�È Ñ�»(º »!À�¹ Ê º È ¾�É Ñ/¹ ¾ ÍÈ ü¾ »!Ê È ¿!¼�É ÓE»!¼�Å�ü¼�Å�É?Ê ¸�»!Ê?Ê ¸�¹Eº ¿(Æ�È Ê�É Ñ/¹ ¾ È ü¾ »!Ê È ¿!¼�¾ »!¼�¼�¿!Ê�ƹ2º ¹ � ¹ ¾ Ê ¹ Å�»(¼�Å�Ê ¸�» Ê�Ê ¸�¹2À�¿ Å�¹ Á ÉÂ È ¹ Á Å�É È À�È Á »(º9º ¹ É Ä�Á Ê É Ï�Ö#¹2¾ ¿!¼�¾ Á Ä�Å�¹ É�Ê ¸�» Ê � À�¿(º ¹�ÒC¿(º ÿ�È É?¼�¹ ¾ ¹ É É »!º Â�¿!¼�É Ñ/¹ ¾ È ü¾ »!Ê È ¿!¼�Ê ¹ É Ê É�¿!ÃÉ ¹ À�È Ñ�»(º »!À�¹ Ê º È ¾fÀ�¿ Å�¹ Á ÉC»!¼�ÅI¿(¼2É È À?Ä�Á »!Ê È ¿!¼�ÉCÄ�É È ¼�½?Ê ¸�¹ É ¹9À�¿ Å�¹ Á É ��Ï���¹#É È À�Ñ�Á Â�Ä�É ¹#Ê ¸�È ÉCÅ�»!Ê »!É ¹ ÊÊ ¿�É ¹ ¹IÒf¸�¹ Ê ¸�¹ º2Ñ�º ¹ Å�È ¾ Ê È ¿!¼�É�½(È Ç(¹ ¼�Æ(Â�Ê ¸�¹�Eº ¿!Æ�È Ê2»(¼�Å�É ¹ À�È Ñ�»(º »!À�¹ Ê º È ¾2É Ñ/¹ ¾ È ü¾ »!Ê È ¿!¼�É�¾ »!¼PÆ¹É Ä�Æ�É Ê »!¼(Ê È »!Á Á Â2È À�Ñ�º ¿ Ç(¹ ÅIÄ�Ñ¿(¼�ý ÒC¹9Å�¿�¼�¿ ÊfÈ ¼�¾ Á Ä�Å�¹9û9¹ º ü¼/Ø É9ý ß Ë(Ë!Ì þEÉ ¹ À�È Ñ�»(º »!À�¹ Ê º È ¾fº ¹ É Ä�Á Ê É]¸�¹ º ¹»!É]Ê ¸�¹ ÂI»(Á ÁÂ�È ¹ Á Å�¹ ÅIÉ È À�È Á »!ºCº ¹ É Ä�Á Ê É Ï þ�#»!Ê »?à ¿(ºCÊ ¸�È É]É Ê Ä�Å ÂI¾ »!¼�ƹ#à ¿(Ä�¼�ÅI» Ê

��������� ���������! ��"�#�$! ��%&����$&' %! "�(���)�(�����*�+�+�,�-�./*�*0 1���2���3�4&5 $&�·]¸�¹#Ç!»(º È »!Æ�Á ¹ ÉCÄ�É ¹ Å�Æ!Â2Ê ¸�¹?û9¹ º ü¼�ý ß Ë(Ë!Ì þCÉ Ê Ä�Å ÂI»!º ¹ß(ß

Page 13: Nonparametric Estimation of Conditional Distributions in the Presence of Continuous and Categorical Data

6�7980:<;�=&80>�?&@�A!B @�A C DFE�>�A G H C H E�> G H @�IJ�K�LMLFN�7O�7980PQP98�R PFS9=&80@�TU@�B<I�@�I�V W >�?&@�A!H I�C @�LMD 7X�79Y9ZQ[�=&YQT�DFH IN�D >�A \ 7] 79[_^Q`FS9=�a_D >�A \9@ B�B @�A LM>�W/D J�K�C >�G H @�I/7b�79P�a�S9=&P9K�LU?&D A�@�B�N�@�K�I�TMC c�H W J�A D I�d N�@�K�I�T�D A�G c�>�I�e�f 7g�79PQhFS9=&PQK�L�?/D A9@ B<@�W J�D A�C c�H W J�A D I/7e�79:�hQi9[_R ZQP�=�^FK�LMLFN�j&kl6�H B<@�?�\9H \�I�@ GQm�n9H \ \ 7

o DC @�LME�>�A DMG c�DA D \ K�W G \U@ BQ@�K�AUD \ G H LM>�G @�AFn9H G c G c�@�\ DB A @�LpZFD A q&Ird 6 s�s�g�f j_>�I�J G c�DC @�I�VB K�\ H @�ItLM> G A H C D \M>�I�JtC W >�\ \ H q&C >�G H @�IuA >�G D \UB @�AM?&@�G cuG c�DvE�A @�E&@�\ D Jt>�I�Jt;_A @�?�H GM>�E�E�A @�>�C c�D \>�A D\ K�LMLM>�A H w D J H I x�>�?�W Dv6�7�YyC @�I�B K�\ H @�I LM> G A H z�H \�@�I�DMn9c�@�\ DJ�H >�T�@�I�>�W_D W D LMD I�G \�>�A DMC @�A A D C G W NE�A D J�H C G D J@�K�G C @�LMD \_>�I�JMn9c�@�\ D9@�{&V J�H >�T�@�I�>�W�D W D LMD I�G \_>�A D9H I�C @�A A D C G W NUE�A D J�H C G D JM@�K�G C @�LMD \ 7 o D>�W \ @UA D E&@�A G!G c�DF@ |�D A >�W W/C @�A A D C G9C W >�\ \ H q&C > G H @�IA > G DQ>�I�JvC @�A A D C G9C W >�\ \ H q&C >�G H @�IA >�G D \!B @�A!D >�C cv|�>�W VK�D \_>�\ \ K�LMD JM?�NUG c�D�C >�G D T�@�A H C >�W�|�>�A H >�?�W D } 7_Y9\_C >�IM?/D�\ D D IUB A @�L~x�>�?�W DQ6�j�G c�D9E�A @�E/@�\ D JMLMD G c�@�JC @�A A D C G W N�E�A D J�H C G \Ue ] 7 6���@ B�>�W W<@�?�\ D A |�>�G H @�I�\Fn9c�H W DM>�;_A @�?�H G�LM@�J�D W<C @�A A D C G W N E�A D J�H C G \Fg�g�7 b��n9c�H C c�A D E�A D \ D I�G \�>vLM>�A ��D J�H LME�A @ |�D LMD I�GFH I�LM@�J�D W<E/D A B @�A LM>�I�C D 7Mx�@v>�J�J�A D \ \�E&@�G D I�G H >�W<C @�I�VC D A I�\<G c�> G<G c�D \ D�A D \ K�W G \_>�A D�>�IU>�A G H B >�C G<@�B&n9H G c�H I�V \ >�LME�W D�� @ |�D A q�G G H I�T�� j�n!D�A >�I�J�@�LMH w D J�G c�D�J�> G >>�I�J�\ E�W H GQH GQH I�G @H I�J�D E/D I�J�D I�G�D \ G H LM>�G H @�I�>�I�J�D |�>�W K�> G H @�Iv\ >�LME�W D \ � 7Qx�c�D�E�A D J�H C G H |�D�>�?�H W H G Nv@�BG c�DFLM@�J�D W0>�\9LMD >�\ K�A D J�?�NvE/D A B @�A LM>�I�C DF@�IvG c�DFH I�J�D E&D I�J�D I�GQJ�>�G >MLMH A A @�A \!G c�DQn9H G c�H I�V \ >�LME�W DA D \ K�W G \_A D E&@�A G D JH IUx�>�?�W DQ6�B @�A_>FW >�A T�D�I�K�L�?/D A_@�B/J�H {0D A D I�G�\ E�W H G \<H I�J�H C > G H I�TQG c�> G_G c�H \_H \_H I�J�D D J>UT�D I�D A >�W0H LME�A @ |�D LMD I�G9H IvE�A D J�H C G H |�DF>�?�H W H G N>�I�JvI�@�G9\ H LME�W N>�Iv>�A G H B >�C G9@�B<@ |�D A q�G G H I�T�7

�9� �����9�Q�<� � �9�y�l� ���F�Q�<�l�_� ���M�_���_���Q�_�&�0�����<���&� ��� �9�<�&� ���

hQK�A�q&I�>�W�>�E�E�W H C >�G H @�IuK�\ D \MG c�D� �A @�w d 6 s�¡�e�f�J�> G >�q&W Dn9c�H C ctH \UG >���D IuB A @�LpG c�D�6 s�e g�;<>�I�D Wm�G K�J�N�@ B�R I�C @�LMDU^QN�I�>�LMH C \ j�>�I�J�H \F?�>�\ D J @�I�J�>�G >B @�A�6 s�e�b�7Mx�c�D A DM>�A De�b�Xv@�?�\ D A |�>�G H @�I�\FH I¢ £ ¤ ¥0¦ § ¨ ©�ª « ¦ ¬�­0­/®_¯ ° ±&² ³/´ µ ¦_¶ · ©_¸�¦ ¥0¤ ¹�ª ¥ ¦ º ² » ´ ¦ º�¼ ¦ ¥ ¤ ³�½�¶ · ©_¸�¦ ¥0¤ ¹�¼ ¦ ¥ ¤ ³&² ¶Q´ µ ¦_³ ¨ ©!ª « ¦Q¾�¿ ° ° ÀÁ £ ¤ ¥&¦ § ¨ ©�ª « ¦ ¬ Â/¦�» ¤ ¶�³ ² º ¦ ¥ ¦ º_¦ ³ ´ ² ©9¨ ´ ² ¤ ¶9³ ¨ ©!ª « ¦ ³�¤ ¹�³ ² ¼ ¦0à ¢0Ä�Å ° °<¨ ¶�º!ª ¥ ¦ º ² » ´ ² ¤ ¶9³ ¨ ©!ª « ¦ ³�¤ ¹�³ ² ¼ ¦0à Á�Ä ¿ Å Æ ¬Ã ¢0Ä�Å Ç °!¨ ¶�º�à Á<Ä ¿ Æ Æ ¨ ¶�ºQ³ ¤!¤ ¶�À

6�O

Page 14: Nonparametric Estimation of Conditional Distributions in the Presence of Continuous and Categorical Data

È�É�Ê Ë�É�Ì Í!Î&Ï&Ð ÑÒQÓ�Ô Õ Ö ÒQÓ�Ô Õ ÖÕ ×�Ø�ÕÙÖ�Ö�Ö Õ ×�Ú�ÛÜÖ�Ö ×Ö Ö�Ö ÚÞÝ Û�Ø Ö Ö ß�àÞÝ�Ý�ÝáUâ!ã�ä ä å æ ç ß�è�é Ö á áUâ!ã�ä ä å æ ç Ø�Ø�é Ú ááUâ�â!ê�ë Õ�ìíß�Ø�é è á áUâ�â!ê�ë Õ�ìîß Ø�é Õ ááUâ�â!ê�ë Ö�ìíß�Ö�é × á áUâ�â!ê�ë Ö�ìîÚ�Ú�é × á

ï�ð�ñ�ò å Ö�ó â!ã�ô�õ ö�÷ ø ã�ôvù ð ç ä ø ú ð ô�ûvæ ò ð ÷ ÷ ø ü&æ ð ç ø ã�ôä ð ç å ÷�õ ã�ä!ç ý�åFþ�å ä ô�å ò�ð ô�ûvÿ0ã���ø ç9ùMã�û�å ò ÷ é

ç ý�ø ÷Mû ð ç ð ÷ å ç ��ç ý�åvü&ä ÷ ç è�Ý�Û õ ã�ä���ã�ùMå ô��9ø ç ý��/ã�÷ ø ç ø ��å�ý�ã�ö�ä ÷��ã�ä þ�å û ð ô�ûtç ý�å�ä å ù ð ø ô�ø ô� ×�Ý�Úã ñ ÷ å ä � ð ç ø ã�ô�÷Fõ ã�ä��!ã�ùMå ô��9ý�ã�û�ø û ô�ã ç ��ã�ä þ�õ ã�ä � ð � é�� ã�ä ð æ ã�ù� ò å ç åMû�ø ÷ æ ö�÷ ÷ ø ã�ô ã�õ!ç ý�åû ð ç ð÷ å å��vä ã���ë Ö à�Û�ß � Ò ��/å ô�û�ø ú Ö�ì é ï ý�ø ÷Uø ÷ ð �9ø û�å ò � æ ø ç å ûu÷ ç ö�û � ã�ô�� ÷ å æ ã�ô�û�� ��å ô�å ä ð ç ø ã�ôuùMã�û�å ò ÷ã õ ò ð�ñ ã�ä9÷ ö�� ò ���0ð ô�û�ø ÷9õ å ð ç ö�ä å û�ø ô���å ä ô�û�çMë Ö à�à�Ö ��â!ý ð ��ç å ä Ö�Ö ì � ð �&ã���ö ò ð ä9ç å ú�ç ñ ã�ã�þvö�÷ å û�ç ãç ä ð ø ô�ö�ô�û�å ä ��ä ð û�ö ð ç å ð ô�û���ä ð û�ö ð ç åU÷ ç ö�û�å ô�ç ÷Fã�õ_å æ ã�ô�ã�ùMø æ ÷ é � ð ç ðð ô�û ï�� Ô æ ã�û�å�ç ãä å � ò ø æ ð ç åç ý�åF÷ ç ö�û � æ ð ô ñ åQõ ã�ö�ô�û ð ç

�������! "�" #�#�#!$ % �&('�)*(+�,-$ .(,�/"0�1(23 '���" 4�.�+(',��"

ð ô�û��!åUæ ã�ô�÷ ø û�å ä ð ô ð �� ò ø æ ð ç ø ã�ôvã�õ<ç ý�å ��ä ã��&ã�÷ å û�ùMå ç ý�ã�ûvç ãùMã�û�å ò ø ô�Uç ý�åFõ å ù ð�ò å ò ð�ñ ã�ä!õ ã�ä æ å� ð ä ç ø æ ø � ð ç ø ã�ôû�å æ ø ÷ ø ã�ôõ ã ò ò ã �9ø ô� ��å ä ô�û�çUë Ö à�à�Ö �&â!ý ð ��ç å ä Ö�Ö �� ð ��å Ø�Ú è(5�Ø�Ú�ß�ì é6 å�ä å � ò ø æ ð ç åFç ý�å�ä å ÷ ö ò ç ÷Qã�õ-��å ä ô�û�çMë Ö à�à�Ö �0â!ý ð ��ç å ä Ö�Ö �7� ð ��å Ø�Ú è(5�Ø�Ú�ß�ì � ð ô�û�ç ý�åFõ ã ò ò ã �9ø ô�

� ð ä ø ð�ñ�ò å ÷!õ ä ã�ù8��ä ã(� � ÷�ë Ö à�Û�ß�ì û ð ç ð ü ò å���å ä åFç ý�å ä å õ ã�ä åFö�÷ å û óÖ�é ÿ �<Ô�ó&Ò û�ö�ùMù � � ð ä ø ð�ñ�ò åQå 9�ö ð�ò ç ã Ö ø õ�ç ý�å:�!ã�ù ð ô;��ã�ä þ�å û�ø ô Ö à�ß�Ú � Õ ã ç ý�å ä �9ø ÷ å éÝ�é�< ÿ Ø�ó ï ý�åFô�ö�ù ñ å ä�ã�õ<æ ý�ø ò û�ä å ô ò å ÷ ÷�ç ý ð ô Ø � å ð ä ÷9ã ò ûvø ôç ý�åFý�ã�ö�÷ å ý�ã ò û é×�é�<FØ�Ö Û�ó ï ý�åFô�ö�ù ñ å ä9ã õ<æ ý�ø ò û�ä å ô ñ å ç ��å å ô ð ��å ÷ Ø ð ô�û Ö Û ø ôç ý�åFý�ã�ö�÷ å ý�ã ò û éè�é 6 Ò�ó ï ý�å:�9ø õ å � ÷ ð ��å éÚ�é 6>= ó ï ý�å:�9ø õ å � ÷�å û�ö�æ ð ç ø ã�ô ð�ò0ð ç ç ð ø ô�ùMå ô�ç ��ø ô � å ð ä ÷ éØ�é â@? ï ó9Ò û�ö�ùMù � � ð ä ø ð�ñ�ò å�å 9�ö ð�ò ç ã Ö ø õFç ý�å���ã�ù ð ô ò ø ��å ÷vø ô ðuò ð ä ��å�æ ø ç � ë � � � ÒQì � Õã ç ý�å ä �9ø ÷ å é

Ö ×

Page 15: Nonparametric Estimation of Conditional Distributions in the Presence of Continuous and Categorical Data

A�B�C!D�E�F!GH�I(J K LI(M7N�H I(O P�Q(RSK GH:T�U R H V P!WO H X�U Q�LP!M I�Y�Q�O@ZI�O [(H K�H \�W7H O U H ]J H(B^ B�_�` E(F!GH!L]H ZWM Q N�ZH ](K-O I K H!U ] J Q(L]�K N�Q(R�O H P U aH ]J H b�U ]�W�H O J H ](K I�c(H!W7Q(U ]�K P BdF!GU PdU PeK I�[(H ]R O Q(ZfYO I(J [(H K H a�O I(]c�H P B

g B�h(ijilk(E�F!GH�M Q�c�Q R K GH�T@I�c(H�m T�U R H(V PnI X�H O I(c�H�GQ�LO M NjH I�O ]U ]c(P b�U ]lk g A(opaQ�M M I(O P q�R Q�OT@Q�O [�U ]c�T@Q�ZH ]7bK GH�M Q�c�Q(RdWO H aU J K H anT@I�c(H:R Q�O!]Q(]�r T@Q�O [(H O P B

k sB�t-u�v ` EeF!GH T�U R H V P:WO Q�W�H O K N�U ]J Q�ZH J Q�ZWL�K H a�I(P:K Q K I�MeR I�ZU M NnU ]J Q(ZH ZU ]�LP�K GH�M I�Y�Q�OU ]J Q�ZH:H I�O ]H a�Y�N;K GH:T�U R H B

F!GHhSQ(c�U K�I�]a�t-O Q�YU K I(WWO Q�I(J GH P ZQ�aH M-v K H Zwm k(q:I(P�K GHaH W7H ]aH ](K�X(I(O U I�YM H�I(]apU K H ZPm x(qdK GO Q(Lc�G�m k s�qdI�P-H \�WM I�]I K Q�O N�X(I(O U I�YM H P-U ]I�aaU K U Q(]�K Q�I J Q(]P K I�](K@K H O Znb�T�GU M H@K GH�WO Q�W�Q�P H aI(WWO Q�I(J GyaQ�H P�]Q K�O H z�LU O H�K GH�LP H�Q(R K GH�J Q�]P K I(]�K�K H O ZnBf{�Q(O;K GH�WO Q�W�Q�P H ayZH K GQ�ajT!HLP HnK GH�R I(J KK GI(K;U K H ZP�m k q�K GO Q(Lc�Gym A�q�I(O H�J I(K H c�Q(O U J I(M!T�GU M HnU K H ZP�m ^ q K GO Q(Lc�Gym k s�qI(O HJ Q�](K U ]�LQ(LP BdC:c(I�U ]7b YI(]a�T�U a�K GPeT@H O H-aH K H O ZU ]H a:X�U I@K GH-WO Q�W�Q�P H a ZH K GQ�a�Q(R�J O Q(P P r X(I(M U aI(K U Q(]7BF!GH�J Q(]�R LP U Q�]nZI K O U J H P!I�]anJ M I(P P U |�J I K U Q�];O I(K H P!R Q(O!Y7Q K G;K GH WO Q(W7Q(P H anI�]anhSQ(c�U K!I�WWO Q(I�J GH PI(O H�P LZZI�O U } H a;U ]nFSI�YM H�x�B

~���� �S��� �@����� �C:�(t s k C:�(t s ks �k ��k(k s k ����k o gk A ����o(� k ^ s��(� ^��� Q�O O H J K ^�^ B A � ��� Q�O O H J K�� ^ B x ����!� u m s�q g ��B � � ���!� u m s�q�o�k�B s ����!� u m k(q ^ x�B A � ���!� u m k(q ^ k�B � �

FSI�YM H�x�E � Q(]�R LP U Q�]nZI(K O U \;I(]anJ M I(P P U |�J I K U Q�];O I(K H P!R Q(O@K GH�[(H O ]H MSI�]anheQ�c(U K�ZQ�aH M P B

F!GH:H P K U ZI(K H a;hSQ(c�U K@I(]a;t-O Q�YU K!ZQ�aH M P@Q RSM I(Y7Q(O-R Q(O J H�WI�O K U J U WI(K U Q(]J Q�O O H J K M N;WO H aU J K�o�k �m � ^ B x � q:I(]apo�k(x�m � ^ B s � q�Q R@K GH�M I(Y7Q(O�R Q�O J H�WI�O K U J U WI(K U Q(]�aH J U P U Q�]P:O H P W�H J K U X�H M N(BC�P�J I�]�Y�HP H H ]pR O Q�Z�FSI(YM Hnx�bdK GHnWO Q(W7Q(P H a�ZH K GQ�a�J Q�O O H J K M NpWO H aU J K P��(� ^ m ^(^ B A�x � q�M I�Y�Q�O�R Q(O J H;WI�O rK U J U WI(K U Q(]nJ GQ�U J H P!T�GU J GnK O I�]P M I K H P�U ](K Q;I(]�I�aaU K U Q(]I�MSk(o �J GQ�U J H P:Y�H U ]cJ Q�O O H J K M NnWO H aU J K H a7bT�GU J GnU P@I R I�U O M NaO I(ZI(K U J�U ZWO Q X�H ZH ]�K!U ];K H O ZP!Q RdWO H aU J K U Q(];I�J J LO I(J N(B!�:];K GH:YI(P U P!Q(ReK GHP U Z LM I(K U Q(]PeWO H P H ]�K H aU ] ��H J K U Q�]�o�B x!K GU PSP Lc(c�H P K PSK GI(KSK GH@heQ�c(U KdP W�H J U |�J I K U Q�] U PSU ]I(WWO Q�WO U I K H

k �

Page 16: Nonparametric Estimation of Conditional Distributions in the Presence of Continuous and Categorical Data

� �(�!� �� �!� �:��� ��( ¡��n��¢(£� �( � ¤ ¥n¦��� ��� §¨(¤7� © � �:�(�S� �� ���(¥ª��(� �© � � �:� �!« �(¦¬ « � © ¬�¨ ��� �� �!ª7�(� ¦�� ­® � ¨�¬¬� © � �!ª7�(� � � ¢¤ ©:« ��¦« © � ¦�@� �¨ �@� �© � ©:� © �  ¤ � �@¨�� ©�¨�¦;¨(� � � � ¨�« �!� �e¯�� � �� ¦�° � ¨(§ª¤ ©�± � £�© � ²� � � ¦¡�³ ´¯!©:¨�¡(¨�� ¦;� ¨(¦¬��§� µ © ¬� �©�¬¨ � ¨�¨�¦¬n� ª¤ � �!� �!� ¦�� ��� ¦¬© ª7© ¦¬© ¦(�:© � � � §¨(� � �(¦;¨(¦¬n© £(¨(¤  ¨(� � �(¦;� ¨�§�°ª¤ © � ´�¨�¦¬ � �©@ª� © ¬� « � � £�©!¨(¢� ¤ � � ¥���¦ � �©@� ¦¬© ª�© ¦¬© ¦��-� ¨�§ª¤ ©@� © ¶�© « � © ¬ � �©@¯�� � �� ¦�° � ¨�§ª¤ ©-� © �  ¤ � �� © ª7�(� � © ¬�� ¦ ® ¨�¢¤ ©·�­ ® �� ��� �:¨�¤ � �n�  ¡(¡�© � � � £�©�� �¨(�:� �©¡(� ¨�¬� © ¦�� ��¢¨(� © ¬� ª7�(¦�� �©�ª¨�� ¨(§© � � � «§��¬© ¤ �:¨(� ©�ª7���(� ¤ ¥�� ª7© « � ²�© ¬�¨(¦¬�� �© � © � ��� ©�¨(¦�¥�� ¦�� © � © ¦« ©�¢¨�� © ¬� ª�� �© � ©�¡�� ¨(¬� © ¦(� ��¯!�( ¤ ¬�¢�©�  � ª�© « � ­@¸����-� �©�« �(¦�� � ¦� �� �@£(¨(� � ¨�¢¤ © �@¯@©�« �(§ª �� ©:� �©�¨ £�© � ¨�¡(©�¬© � � £(¨ � � £�© �!� �S� �©�ª� �(¢¨�¢� ¤ � � ¥� �¨ �:¹»º½¼�¯��� « ��¨(� ©�� ¥�ª� « ¨(¤ ¤ ¥n� © ª���� � © ¬�¨�¤ �(¦¡�¯�� � ��¾S�(¡�� ��¨�¦¬��-� �(¢� �:© � � � §¨ � © � ´�¨�¦¬n� �� ��� �� © ª7�(� � © ¬n� ¦ ® ¨�¢¤ ©:¿­

À ¨�� � ¨(¢¤ ©Á¾e��¡(� ��¬�@ ¬�à Ä�© � ¦© ¤�ÅÆ ÇeÈ ÉÊ7Ë ¹Ì Í ÎÌ Ï�-Ð�Ñ ÒÔÓ:Õ�Ö ¿�×�¼ Ø(ØÙ�¼ ×�ÚÛ ÜÝÓ�¿Ö ×�Ø�¼(Þ ß�Ùp¼ ×�ÚÛ à¾(ájál¼â×�Ö ×(ß¼ ×�· ã ×�Ö ¼ Þ�Õ ¿�ß�¼ä Ò Ó�×Ö ×�×(¿�ã(ß�·(Þ Ó�×Ö ×�×�·(Ø(ã�Õ Ø�·

® ¨(¢¤ ©!¿�åd¾e��¡(� �d¨�¦¬�Ä�© � ¦© ¤æ-� � � §¨ � © �S�(��� �©@¨ £�© � ¨(¡�©!« �¨(¦¡�©!� ¦�� �©!ª� �(¢¨�¢� ¤ � � ¥ � �7ª¨�� � � « � ª¨(� � �(¦Ë ¹½ºy¼(Ï-¯�� � �n� © � ª�© « ��� ��� �©�« ��¦(� � ¦� �( �!£(¨(� � ¨�¢¤ © �!� ¦�¶� © ¦« � ¦¡�� �� �!¬© « � � � �(¦7­

® ��( ¡���ç� ¨�¦(� � � ¨(� � £�©�� © �  ¤ � �!� � ��§8© ¨�« ��¨(ªª� ��¨(« ��¬� è7© � ´7ç� ¨�¤ � � ¨ � � £�©�� © �  ¤ � ��¨�� © � � §� ¤ ¨(�!� ¦� �¨ �d� �©!�� ¡(�© �S� �©@ª� ��ª�© � � ¥�� ¦« �(§©@���d� ¨ � ©!� �7 ¦© §ª¤ � ¥§© ¦��-�(�S� �©!¤ � ¯@© �S� �©@¯@¨�¡(©@� �©!¤ � ¯@© �� �-� �©�ª� �(¢¨�¢� ¤ � � ¥�(�S¨�¦n� ¦¬� £�� ¬ ¨�¤�ª¨(� � � « � ª¨ � � ¦¡ � ¦;� �©:¤ ¨�¢����-� �(� « © ­@é�� � © ¦n� ¦(� © � © � �!� ��«  � © �!��¦�� ¯�� �©!ª¨�� � � « � ª¨(� � �(¦ ¬© « � � � ��¦�� �d¨ èe© « � © ¬¢(¥�« �¨�¦¡(© �-� ¦�§¨(� ê(© �d¯!¨(¡�© � ­ ® �©!ª� ��ª���� © ¬§© � ���¬�  ¡(¡�© � � �@� �¨(�@� �©:¨ £�© � ¨(¡�©:� © � ª���¦� ©�� ¦� �©:ª� �(¢¨�¢� ¤ � � ¥�(�Sª¨�� � � « � ª¨(� � �(¦� �@� �� ¡(�¤ ¥;¬�( ¢¤ ©�� �¨(�¢¨(� © ¬� ª���¦p� �©n¾S�(¡�� ��¨�¦¬��-� ��¢� �§��¬© ¤ � Ë ×�­ ¼ ã�£�© � �  �;×�­ ×(ß�Ï �  ¡(¡�© � � � ¦¡�� �¨(�ª¨�� � � « � ª¨(� � �(¦© ¤ ¨�� � � « � � � © ��¯�� � �j� © � ª7© « �;� �p¯@¨�¡(© �;§¨ ¥j¢�©��  ¢� � ¨(¦�� � ¨(¤ ¤ ¥�¤ ¨�� ¡(© ��� �¨�¦�� ��(� ©�� §ª¤ � © ¬�¢(¥�� �©¾e��¡(� ���(���-� �(¢� ��� ª7© « � ²�« ¨(� � �(¦� ´e� ��( ¡���¨�¡(¨�� ¦�¦�;� ��� §¨(¤e� © � � � �-� �� ���(¥ª��(� �© � � ��� �:¨(� � © §ª�� © ¬�© � ©(­

¼(Þ

Page 17: Nonparametric Estimation of Conditional Distributions in the Presence of Continuous and Categorical Data

ëíìnî ïñð�ò ó ô-î õö�÷

ø-ù�ú@û ù�ü(ý@þ ÿû������ þ�ú!þ�û�� � ���þ� û���� �� þ � þ � ��� � þ ��� ���� þ ��� � � � ������ ��� ����û� ����! ��� ��� �"�@ý ü���û� û�� þ ��ü�� � � û��$#(û�� � û�%�� þ� ü� ���� � � ü� û��$���7ü� �û&#�þ � � ü���ü(ý'� þ û�� � ( û�� � ü� ��:ü ý'� ü� �� � ��ü������û � û�)!*+�� ��� �:û� ü����ü� ,� � � �û � � ü� �� �þ � ü� ü���� � �+� û ��� �!ý � þ -��þ �� � ù,�ü.�þ � þ �,��� þ ��û&� � þ û�� / � ��þ ÿ&0Sü���� ���ü.�þ �ú��� � �� �dû��ü��.� þ ��þ � þ!û��dû��û�� û��þ � � � �'%�þ �� ��û�� 12)43pþ!û�� � ���þ+� û �'� �� þ � þ � �'� � þ �5� !��� þ ��� � � � ��6�7�8 �:9<;=� �!> ? @ A A A B7ú�þ � þ��DC"E F�@ G�@ A A A H û� ���� ;þ � � � �û � � ��ü ú<� �� �+��� ü�%û�%�� � � � ù&� þ � �7ü� ����'� ü� û� ���þ �� �� þ�� ü� ���� � � ü� �� ��&#(û�� � û�%�� þ � )&I:ü � þ!� û���� þ���� ü���ü�� þ �"�þ � ü.��� ��û������ � � û�%�� þ ú�þ � þ&� ü� ���� � � ü� þ �"�û � û�� þ ��� ��!��� � � #(û�� � û�� þ JSû� ���� þ � þ ý ü�� þ&� ��ü�� þ���þ þ � û��5� û� �� þý ü�� � ü ú�� ��þ ÿû������ þ �Sú!ü���� ��� �����(þ � �5/=� þ!þ ÿ�û������ þ �-û�� þ+� ü�� þ &� � ����� ù���þ+� ü�� þ+�7ü������ û�� � � ù�ü ý=��� þ ��� � � � ü� ü ý� û � þ �(ü�� � � û����û�� û�û� ��<���þ,� üK��ü�� þ �� � û������ ü�%�� þ ���ú��� � L� û� >û�� � � þnú�þ <��� � ��K� � û� ��û�� ��û�� û��þ � � � �:û������ ü(û�� þ � )

M'N OQP�R�S$T�U V�W2U X�Y[Z]\'X�^ U X�S$_4R,`[U X�_4R2acbKd�\+U V=S�e�f]X�U g4_4R�U _4W�S[b�\+X�TU W2U \'X�U X�Yh S=W

3pþ&%�þ ��� �ú�� � pû�� � ����� þþ ÿû������ þ�� �ú��� � "� ? � ���� � � � � %��.� þ �Ki!8 j�k.@ k�B!û� ��"�lC:E F.@ G�H&� � û%�� û�� ù&#(û�� � û�� þ�� û���� �+� ü� ���� � � ü� û�� � ù��þ � þ � ��� þ ��%(ù

�:9mno np Gq� ý=� ?=rKs�t FF ü�� þ � ú�� � þ � G u��

ú�þ � þ s � ��ûnú��� � þ� ü�� � þ�v"� F.@ w=xy ��þ � � ü���� þ � � ú�� � �w y 9zG�)�*+�� ��þ ÿ�û������ þ!� � ü ý � þ ��ü.�þ � þ ���� � ���þ � � þ ��û�� � þ û��!� � ���� þ / � ��þ ÿ"{5� ü�%�� �ü��!0Sü���� �!�ü.�þ � )�|��!%7ü � K��� #�þ&#.� � � �û�� � ù"� �þ �� � � û��� þ � ��� � � ý ü���� �� �}~�{lû� ���� þ&0eü���� �!� ��ü�� þú�� �þ � ù"��� þ ��Jdú!þ&� ü� �� � �þ � û�� û,%7þ �� ��û�� 1�� þ

G �

Page 18: Nonparametric Estimation of Conditional Distributions in the Presence of Continuous and Categorical Data

�=����� ��� �2� � � �2� � � � ������� ��� ���������� �:�]�.� �2��� ��'�K� �.�$� �� ���4�K��� ��� �

� ��'�K� �.�$� �� �� ��� �� ¡�¢��

£�¤ � ¥ �� �� ���¦�� ��� � � �!���[§ � ��¦�� �"¨ ©���� � � ����ª «�¬"����� � �&� ¤ � �!� ¤ �&�$����� �!­��.¦�� ®'��� � ©�­�� �!� ¤ � �!� ¤ �¦�� � � ¥ � ��©.� � ������¨�� ¤ ��� � � �$� �$� �.­�­�� � ¥ � � ¯�©���� ­��.¦���® ¯ � ��¥ ¥ � � � ® �� �2� � � �2� ¦����� ¤ �5�$����� � � � �4¦�� � � ¥ � ��©.� � ���£ � � ¤ � ¤ ��©���¦�� ¥ ® ��� ����� ��¦�� �!��� � ����� ��¥ ¥ � � � ® �!� ��� � � �2� ¦&���� 2� �=�5�L��������� ��� �� ¤ � �4� ��� � ����� ��«4°�® � �.¯� ¤ ��©�� ¤ �����!­��.¦�� ® � ¦ ¤ � ¥ ��¯ £ ������� �!� ¤ ��� £�¤ � �"� � � � ����¥ � � ��®$����¥ � ����® � ��������� ��¥���� ����¦�� � � ����� �������¥ � ����® � � ¯=� ¤ ��¥ � � � ��¥ � ¤ � ¥­!©�� �� �2� � � ¨ � ¤ � £ � ��� ¤ ����® ©��� ��±�� �"��������� ¤ ��� � � � ����¥ � � ��®$����¥ � ����® �� ²=� � � �+� ��� ¤ ����¦�� ��� ¥ �,����¥ ��­�� � � ¥+� �&� ¤ ��­��.¦�� ® «¬"�&¦�¥ � £ ¥ ����¦���­³� ��­���® � ��¨ ¥ ��­´� ¤ �&µ¶�·]� ��¸5¹.©�� � � ���L� � º.������¦"� ��­���©.� ��� ¤ ����¥ ���2��� � ¦

±�� ¥ ��� ®=� � � � ­�� � ��¥'����¦���¥ ��¦�� � ������® ����� £ � � ¤ � ¤ ���=����� ��­��.¦�� ®=����¦,� � �+��¥ ��¦�� � ����� ����® ©�� � � ¦�� �� ¢�¢� ¹.©���® ® �,� ����� � ¦��2��� ��� ��� ��� ¥+� ¤ � � ¥�� ©����2��¥ � «+¬"��¥ � �2� � ��� ¤ � ��».¼ ¢�¢�¢!� � ­�� � ¯�� ��­���©.� ��� ¤ �­�� ¦�� �������® ©���¨ ��¥&��® ®����.½ � � � �&� ��� ��� ¤ � ¨�� ¤ ��� ����® ©�� � � ���K����� ��� � ¯+����¦K����¥ �K� ¤ �,� ��­���® �,� � ¾ ��� �[��¥ ¦�� ¥� �&� �.��­�� ���� ¤ ��2��� � � ¿ � ��­���® ���� ¥ ¨ ��¥ ­������ �!� ¨5� ¤ �!��¥ ���2��� � ¦�� � � � ­���� ��¥�¥ � ® � � � ���� �&��� ��¥ ¥ � � � ® �� �2� � � �2� ¦K����¥ ��­�� � ¥ � ��­��.¦�� ® «�À'����¦ £ � ¦.� ¤ � � ® � � � � ���"� �!��� ¤ � � ��� ¦"��� �,� ¤ �&��¥ ���2��� � ¦K­�� � ¤ �.¦"��¨� ¥ ��� � ¿ ����® � ¦�� � � ����¨ ��¥�� ��� ¤"Á ����� ��Â'��¥ ® �&¥ � ��® � � � � � ����¨ ��¥���® ®$� ���2� ¥ � ­�� ��� � £�¤ � � ¤ ¨ ��® ® � £ ¯�����¦,� ¤ �¶���©�� � � ����±�� ¥ ��� ®$� �+©�� � ¦�� ¤ ¥ ��©�� ¤ ��©.�� Ã.� ® ��� ¥ ­������ � º�Ä�Å�¯���������Æ�Ç.� � «È ¤ ��­�� ¦�� ������¥ � ¦�� � � � ¦&� ����¦�� � � ������®2��¥ ��������� ® � � � � �4� ¤ � �+�:�]������¦&��� � �.� � � � � ¦&­�� ¦�� ������¥ ��¦�� ¿

� ��� ��¨ ¥ ��­É� ¤ � � Á ����� �!Â'��¥ ® �&� ���2� ¥ � ­�� ������¥ ���® ��� � � ¦�� �,Ê4� ��©�¥ �!�¨ ��¥�� ��­���® �� � ¾ � ��� ¨'Ë��Ì� ¢�¢����¦�Ë[�É��¼ ¢�¢�¢�«!°���� �������!� � � ��¯$� ¤ �!��¥ ���2��� � ¦"­�� � ¤ �.¦�� ��� ��������® �!��¨'� ����� � � � � ��� ® ��­��.¦�� ® � ���� ¤ � ��µ¶�·$¯$����¦"� �¦��.� �� � £ � � ¤ ��©.�!¥ � ¹.©�� ¥ � ����� ¤ ��¥ � � � ��¥ � ¤ � ¥� �,� �2� � � ¨ �"� � � ¤ � ¥�� ¤ �!¨ ©���� � � ������®¨ ��¥ ­z��¨4� ¤ �©���±.��� £ ��� ��¦�� �,��¥�� ¤ ��¨ ©���� � � ������®=¨ ��¥ ­z� ¨4� ¤ �!¦�� � � ¥ � ��©.� � ����¨ ©���� � � ���,��� £ ��©�® ¦��2�¥ � ¹.©�� ¥ � ¦K���"� ¤ ���=����� �!­�� � ¤ �.¦�«"°�� £ � � ¤ ��® ®'±�� ¥ ��� ®+� � � � ­���� ��¥ � ¯5� ¤ � ¥ ��� �!� ��­��&�2��� � � ¿ � ��­���® ���� ��� £�¤ � � ¤ � ��� ¥ � ��� � � £ � � ¤ � ¤ ��� ©�¥ ����� ©�¥ ����¨�� ¤ �����.½ � � �+�2� � ����� � � � ­�� � � ¦�¯.��©.�'� ¤ � �'��� ���4������� � ¤ � �

��Í

Page 19: Nonparametric Estimation of Conditional Distributions in the Presence of Continuous and Categorical Data

Î�Ï ÎÎ�Ï ÐÎ�Ï ÑÎ�Ï ÒÎ�Ï ÓÔ Ï Î

Õ Ñ�Ï Î Õ Ð�Ï Î Î�Ï Î Ð�Ï Î Ñ�Ï ÎÖ!×

ØÙ Ú Û Ü Ý Þ Ü ßØà á â ã5ä5å Ý Þ æÎ�Ï ÎÎ�Ï ÐÎ�Ï Ñ

Õ Ñ.Ï Î Õ Ð�Ï Î Î�Ï Î Ð�Ï Î Ñ.Ï ÎÖ×

ç èé ê ë Ü ì í Ü îç íç èï ð ñ ò ó ô ì í õç í

Î�Ï ÎÎ�Ï ÐÎ�Ï ÑÎ�Ï ÒÎ�Ï ÓÔ Ï Î

Õ Ñ�Ï Î Õ Ð�Ï Î Î�Ï Î Ð�Ï Î Ñ�Ï ÎÖ!×

ØÙ Ú Û Ü Ý Þ Ü ßØà á â ã5ä5å Ý Þ æÎ�Ï ÎÎ�Ï ÐÎ�Ï Ñ

Õ Ñ.Ï Î Õ Ð�Ï Î Î�Ï Î Ð�Ï Î Ñ.Ï ÎÖ×

ç èé ê ë Ü ì í Ü îç íç èï ð ñ ò ó ô ì í õç í

ö4÷ ø�ù�ú û!ü�ý+þ�û ÿ�÷ ������û ú ��û ������ÿ���ø�÷ ��û � � ÷ ���� û �� ��� ��û�� ���ÿ�÷ � ÷ ��������ú �������÷ � ÷ � ��� ��� �����:ü�����ÿ� ��û�ú û � ������ û����� ��û���ú �������÷ � ÷ � ����÷ � �&ú û � ��û � � � �� ��û�� ���ÿ�÷ � ÷ ���÷ ��ø�!���ú ÷ ����� û " × � �ú #%$ &�&�&þ����� û' ��ú � &ú û ��� ÷ � � � ÷ ���� (*)*��û�+2ø�ù�ú û ����,� ��û-� û � ����ú û�� ��ûû � � ÷ �� � û ÿ�� ���ÿ�÷ � ÷ ��������ú �������÷ � ÷ � ÷ û � ����÷ � û� ���� û-���� ��û!ú ÷ ø�������ú û�� ��û!ø�ú ��ÿ�÷ û ������.� ��÷ ����ú �������÷ � ÷ � �,��÷ � ��ú û � ��û � ��� �" × (�)*��û�� ���+2ø�ù�ú û ���ú û�� �ú*�-� �� ���� û�� ÷ / û����0��]ü &�&�����÷ � û�� ��û�� �'û ú +2ø�ù�ú û ����ú û�� �ú*0��]ü�$ &�&�&%(��� �� ��%� � ÷ � ��� � ��1�����ÿ,÷ ��÷ ��û !.÷ ÿ�û ����� ������ø��÷ ��ø-� ú � 2�3� �� ���� û�� ÷ / û� �.04�:ü &�&-� �05�]ü�$ &�&�&�ú û 6� ù�� � �'÷ �3� ���� � û ú ��÷ ��� ( 7���� �ù�ú � û 1�� ��û����ø�÷ �.��÷ � �8��û�÷ ��������ú ���ú ÷ � � û�÷ �� ��û�ÿ�÷ � � ú ÷ ��ù%� ÷ ������� ���÷ � û �÷ �.��� �� � �û � ú ÷ ���ú. !ù�� � ÷ �.ÿ������ú5÷ ��� ��û�ù���ÿ�û ú � ��÷ ��ø÷ ��ÿ�û 9�÷ �.�� ��û ú.� ������:�; <�=.�?> ×%@ >8A <1�� ����û�*�ù�� ÿ-� ú ��ÿ�û� B���÷ ����� �ú�� ���� ÷ � � û ��� ������û �3 � !.÷ ��ø�� ú � C� �ú ú û � � � ��� �2û � ÷ +2û ÿ�����ú �� �û � ú ÷ �* �.ÿ�û � �� -�����������ú �� �û � ú ÷ ��� ú �� �û �*�ú �8(

D �E��ÿ�ÿ�÷ � ÷ ��4� ,û 9%�� �÷ ��÷ ��ø3� ��û3��û ú � �ú ������ û� �*� ��û&û � � ÷ �� � �ú� �*F; �3G "H=�����ÿEI-J F�; �,G "H= 1�+û�� ���� ÷ ÿ�û ú�� ��û-��ú û ÿ�÷ � � ÷ !�û-�2û ú � �ú ������ û- �.� ��û-��ú ��8�� û ÿ�û � � ÷ ���� �ú�ú û � � � ÷ !�û�� �� ��÷ ��� �ú ú û � � � �� �2û � ÷ +2û ÿ5���ø�÷ �� �.ÿ�û � (�ö8�ú�û ��� �Kþ,���� û ' ��ú � �ú û ��� ÷ � � � ÷ ���1�KF�; �,G "H=�����ÿ4� ��û����ø�÷ ��û � � ÷ ���� �úLM�N%O �P� ü%G <8Q�����ÿE� ��û ÷ ú�ø�ú ��ÿ�÷ û ��� �-�'û ú û�� � ���ù%� û ÿR����ÿE� ��û �S��ú û ÿ�÷ � � ÷ ����-�+û ú û4 ���ÿ�û,� �ú����T U8V%W X�W U8V%W U�Y � �� ���� ûÿ�ú � ���4� ú � Z� ��û-� �� �û-[�\�]^� ��û ��� �H �.� ��û�û !���� ù�� � ÷ ������÷ ��� � (�_"û�� ��û �

ü `

Page 20: Nonparametric Estimation of Conditional Distributions in the Presence of Continuous and Categorical Data

a b�c�d�e%f g3f h�g,i j�g k i�l�g,a b�m%n e�o p b�mRc�i f k p q5n b�k-g i�a hRi�d�d�k b�i�a hEr�h�p a hRo p c�d�s t5f i�u�e�s i f g o-i j�g k i�l�gd�k g v�p a f g v4j�g k o e�o�i j�g k i�l�g�i�a f e�i�s�b�e%f a b�c�g o�n b�k�g i�a h5p m�v�g d8g m�v�g m�f�v�i f i,o g f�i�m�v4k g d8b�k f�f h�p o�p mw i�u�s g�x�y w h�g-k g o e�s f o�p m w i�u�s g�x3o e�l�l�g o f�f h�i�f�f h�g-d�k b�d�b�o g v4c�g f h�b%v�p o�a i�d�i�u�s g�b�n.c�p c�p a z%p m�lf h�g-d�g k n b�k c�i�m�a g-b�n i�a b�k k g a f s t4o d�g a p {8g vHd�i�k i�c�g f k p a-c�b%v�g s.g j�g m4n b�k�o i�c�d�s g o�f h�i�f�r b�e�s v5u8g| e�v�l�g v,f b�u8g�o c�i�s sp m,i�m�b�m�d�i�k i�c�g f k p a�n k i�c�g r b�k z4} n b�k*g q%i�c�d�s g ~8�4�C� ����� y w h�g k g�p o*i�o s p l�h�fs b�o o*p m3g ��a p g m�a t,k g s i�f p j�g�f b�f h�g�a b�k k g a f s t,o d8g a p {8g v,d�i�k i�c�g f k p a�c�b%v�g s�i�o r g s s�i�o {8m�p f g � o i�c�d�s gu�p i�o�g j%p v�g m�f p m�f h�g*g o f p c�i f g v-l�k i�v�p g m�f ~�u�e%f.u�b f h�v�p c�p m�p o h�i�o t�c�d%f b f p a i�s s t�i�o.a i�m-u�g*o g g m-n k b�cw i�u�s g�x�i�m�v,��p l�e�k g���y

����� ���%� � �8�8� ������ � � ����� � �� x�x�y ����y x � x�x�y ����y �� �%y ��x�x�y � � ��y ��x�x�y ��-� b�k k g a f����%y � � �-� b�k k g a f����%y � ��-�*�   } �%�¡���%y ¢ � �-�*�   } �%�¡���%y � ��-�*�   } ���¡���%y x � �-�*�   } ���¡���%y � �

����� ���%� � �8�8� ������ � � ����� � �� x��%y ��x%y � � x��%y ��x%y �� x�y ��x��%y � � x%y ��x��%y ��-� b�k k g a f����%y � � �-� b�k k g a f����%y ¢ ��-�*�   } �%�¡���%y � � �-�*�   } �%�¡���%y � ��-�*�   } ���¡���%y � � �-�*�   } ���¡���%y ¢ �w i�u�s g�x%£ � b�m%n e�o p b�m3c�i�f k p q-i�m�v3a s i�o o p {8a i f p b�m�k i�f g o n b�k.f h�g�d�k b�d8b�o g v,c�g f h�b%v3i�m�v3f h�i f n k b�c�i¤ b�l�p f�c�b%v�g s y w h�g�f b�d�p o f h�i f*n b�k*���¥� ���-i�m�v3f h�g�u8b�f f b�c¦n b�k*���¥��§ �����%y

¨ g3m�g q%f-a b�m�o p v�g k�i4©�ª � p m5r�h�p a h5«,¬�p o�i�l�i�p mHv�p o f k p u�e%f g vE­-® ¯�x%§ x�° i�m�vH±²p o�i�u�p m�i�k t

� �

Page 21: Nonparametric Estimation of Conditional Distributions in the Presence of Continuous and Categorical Data

³�´�µ ¶ ´�· ¸�¹Hº »�¼ ½�¾�· ¿�´ ·�¶ À*Á Â�Ã�Ä�¶ · ¶ Â�Ã�´�Å Å Æ3Ä�¸ · ¸ µ Ç�¶ Ã�¸ Ä,È�ÆÉCÊ ËÌÍ ÌÎ ½Ï¶ Ð4ÑRÒ�ÓRÔ3Õ�ÖE×*Ó?Ò

»Ø · ¿�¸ µ Ù�¶ À ¸ Ú Ò%½ ÛÙ�¿�¸ µ ¸�×�¶ À*´�Ù�¿�¶ · ¸�Ã�Â�¶ À ¸�¸ µ µ Â�µ*· ¸ µ Ç2Ä�µ ´ Ù�Ã,Ð µ Â�Ǧ· ¿�¸�À Ü�¸ Ù*¸ Ä4Ý Ú ½�¼ ½�Û.Ä�¶ À · µ ¶ È�Þ%· ¶ Â�Ã�ßà ¶ · Þ�´ · ¶ Â�Ã�À3À ¶ Ç�¶ Å ´�µ-· ÂE· ¿�¶ À3´�µ ¸4 Р· ¸ ÃSÂ�È�À ¸ µ ³�¸ Ä^¶ ÃS¸ Á Â�Ã�Â�Ç�¶ Á4À ¸ · · ¶ Ã�á�À â�´�Ã?¸ ã%´�Ç�ä�Å ¸4È8¸ ¶ Ã�áÁ Â�Ã�À Þ�Ç�¸ µ3á�Â%Â%Ä�À-· ¿�´ ·,´�µ ¸�Ã�Â�µ Ç�´�Å*Ð Â�µ�À Â�Ç�¸�µ ´�Ã�á�¸� Ð�¶ Ã�Á Â�Ç�¸,´�Ã�ÄR¶ Ã%Ð ¸ µ ¶ Â�µ-Ð Â�µ�´�Ã� · ¿�¸ µ ß^å�À¶ Ã�Á Â�Ç�¸�µ ¶ À ¸ À*Ù ¸� Р· ¸ Ã,Â�È�À ¸ µ ³�¸�´�Ã,¶ Ã�Á µ ¸ ´�À ¸ Ä�Å ¶ Ü�¸ Å ¶ ¿�Â%Â%Ä3 Ð.´-Á ¿�Â�¶ Á ¸�È8¸ ¶ Ã�á-Ç�´�Ä�¸�È�Þ%·�´�À�¶ Ã�Á Â�Ç�¸Á Â�Ã�· ¶ Ã%Þ�¸ À�· Â,µ ¶ À ¸�È8¸ Æ�Â�Ã�ÄHÀ Â�Ç�¸-µ ´�Ã�á�¸-Ù ¸�È�¸ á�¶ Ã�· Â�Â�È�À ¸ µ ³�¸�´�Ä�¸ Á µ ¸ ´�À ¸ ÄHÅ ¶ Ü�¸ Å ¶ ¿�Â%Â%Ä�Â�Ð*Á ¿�Â�¶ Á ¸ ÀÈ8¸ ¶ Ã�á�Ç�´�Ä�¸ ß æ�Ð�Á Â�Þ�µ À ¸ â%· ¿�¸*´�ä�ä�Å ¶ ¸ Ä-µ ¸ À ¸ ´�µ Á ¿�¸ µ.Ç�´ Æ-¿�´ ³�¸�Ã�Â�¶ Ã�À ¶ á�¿�·.¶ Ã�· Â�Þ�Ã�Ä�¸ µ Å Æ%¶ Ã�á�Á Â�Ã�À Þ�Ç�¸ µä�µ ¸ Ð ¸ µ ¸ Ã�Á ¸ À�´�Ã�Ä�Ç�´ Æ,ä�µ ¸ Ð ¸ µ*· Â�¸ Ç�ä�Å Â Æ,¸ À · ¶ Ç�´�· ¶ Â�Ã3· ¸ Á ¿�Ã�¶ ç%Þ�¸ À�· ¿�´�·�´�µ ¸�Á Â�Ã�À ¶ À · ¸ Ã�·�´�Ã�Ä�Ä�Â�Ã�Â�·ä�Å ´�Á ¸�µ ¶ á�¶ Ä3ä�´�µ ´�Ç�¸ · µ ¶ Á�µ ¸ À · µ ¶ Á · ¶ Â�Ã�À*Â�Ã,À Þ�Á ¿�È�¸ ¿�´ ³�¶ Â�µ ß

è�é êè�é ëè�é ìè�é í

î ë�é è î ê�é è è�é è ê�é è ë�é èï Õ

ðñ ò ó ô õ ö ô ÷ðø ù ú û.ü.ý õ ö þ

î è�é ëî è�é êè�é èè�é êè�é ë

î ë%é è î ê�é è è�é è ê�é è ë%é èï Õÿ �� � � ô � � ô �ÿ �ÿ �� � � � � � ÿ �

� ¶ á�Þ�µ ¸�Ò����,¸ Ä�¶ ´�Ã�Ü�¸ µ Ã�¸ Å�´�Ã�Ä��Â�á�¶ ·�¸ À · ¶ Ç�´�· ¸ À� Ð�· ¿�¸�Á Â�Ã�Ä�¶ · ¶ Â�Ã�´�Åä�µ Â�È�´�È�¶ Å ¶ · Æ�· ¿�´ · É�Ê ½�´�Ã�Ä· ¿�¸�µ ¸ À ä�Â�Ã�À ¸�Â�Ð�· ¿�¸�ä�µ Â�È�´�È�¶ Å ¶ · Æ�Ù�¶ · ¿3µ ¸ À ä�¸ Á · · Â�· ¿�¸�Á Â�Ã�Ä�¶ · ¶ Â�Ã�¶ Ã�á�³�´�µ ¶ ´�È�Å ¸ Ô Õ Ð Â�µ��%¼ »�»�»���Â�Ã�· ¸� ´�µ Å Â�µ ¸ ä�Å ¶ Á ´ · ¶ Â�Ã�À ß� ¿�¸-Ç�¸ Ä�¶ ´�Ã�Ü�¸ µ Ã�¸ Å.´�Ã�Ä���Â�á�¶ ·�¸ À · ¶ Ç�´�· ¸ À�´�µ ¸�ä�Å Â�· · ¸ Ä4¶ à � ¶ á�Þ�µ ¸-Ò�â´�Ã�Ä�· ¿�¸��Â�á�¶ ·�Ç�Â%Ä�¸ Å�¶ À

À ¸ ¸ Ã4· Â3Ð ´�¶ Å�Á Â�Ç�ä�Å ¸ · ¸ Å Æ4¶ Ã�· ¿�¶ À�À ¶ · Þ�´�· ¶ Â�Ã�ß � ¿�¸-Ç�¸ Ä�¶ ´�Ã���Â�á�¶ ·�¸ À · ¶ Ç�´�· ¸-¶ À�Á Â�Ã�À · ´�Ã�·�´�Á µ Â�À À�Ô Õ´�Ã�Ä3· ¿�¸ µ ¸ Ð Â�µ ¸�Ä�Â%¸ À Ã�Â�·*Þ�À ¸�´�Ã�Æ3 Ð�· ¿�¸�Á Â�Ã�Ä�¶ · ¶ Â�Ã�¶ Ã�á�¶ Ã%Ð Â�µ Ç�´�· ¶ Â�Ã��.¶ ·*µ ¸ · Þ�µ Ã�À*´�Ã,Þ�Ã�Á Â�Ã�Ä�¶ · ¶ Â�Ã�´�Åä�µ ¸ Ä�¶ Á · ¶ Â�Ã�â�´�Ã�Ä�Ã�Â�Ã�¸� Ð�· ¿�¸�¸ À · ¶ Ç�´�· ¸ Ä�ä�´�µ ´�Ç�¸ · ¸ µ À Ú ¸ ã%Á ¸ ä%·�· ¿�¸�Á Â�Ã�À · ´�Ã�· Û�¶ Ã3· ¿�¸���Â�á�¶ ·�Ç�Â%Ä�¸ Å´�µ ¸�À ¶ á�Ã�¶ �8Á ´�Ã�· ß*å�À*Ù*¸ Å Å â�· ¿�¸�Ç�¸ Ä�¶ ´�Ã,á�µ ´�Ä�¶ ¸ Ã�·�¶ À�¸ ³�¸ µ Æ�Ù�¿�¸ µ ¸�� ¸ µ Â�´�À�Á ´�Ã,È�¸�À ¸ ¸ Ã�Ð µ Â�Ç � ¶ á�Þ�µ ¸

Ò�»

Page 22: Nonparametric Estimation of Conditional Distributions in the Presence of Continuous and Categorical Data

�! "$#&%(' )+*-,(. ) / ) 0!1 /21 3()+4 5!0�6 7(/ 8 5&0:9:# 1 . 8 4 ) /26 5&.$1 3(8 /;4 #!/ )�<+3(8 4 3:#!. )�=!7(8 1 )�. ) >!) #!' 8 0(? "�3()+@A5!?&8 1

9:5�B() '2?&) 1 /-=!7(8 1 )DC 4 5!0�6 7(/ ) BFEA#!0(B�) GF) 4 1 8 >!) ' H�,(. ) B(8 4 1 /+1 3(# 1I) >!) . HJ4 #!/ )�<+8 ' '$%K)�#�C L(EF#!0(B�H�8 ) ' B(/,(. ) B(8 4 1 8 5&0(/-0(5M%F) 1 1 ) .+1 3(#!0�NK8 ,(,(8 0(?M#M4 5!8 0�8 0�1 3(8 /-4 #!/ ) OA<+3(8 ' )�1 3()�,(. 5!,K5!/ ) BJ9:) 1 3(5�BJ8 /-=!7(8 1 )/ 7(4 4 ) / / 6 7('+8 0PB() 1 ) 4 1 8 0(?�%K5&1 3J1 3()M4 3(5&8 4 ) O�8 1 /�#!/ H�9:9:) 1 . 8 4:0(#&1 7(. ) O�#&0(BP1 3()D7(0(B() . ' H�8 0(?�4 3(5!8 4 )?&. #!B(8 ) 0!1+#&/+4 #!0M%F)-/ ) ) 0�8 0MQ28 ?!7(. ) � #&0(B�"$#&%(' )�*

R�S!T U$S�V W�XKYKZ [\-]&^ L _ \-]&^ L _L ` �� Lba _ L `!c dbd� a_ e cf`&L � _ `!c Lg_ ah�i 5!. . ) 4 1je �! � h h�i 5!. . ) 4 1j`!a � hh�i�i�k�l L�mne �! � h h�i�i�k�l L�mna �! ` hh�i�i�k�l _&mne �! � h h�i�i�k�l _&m d( e h

"$#&%(' )I*!o i 5&0�6 7(/ 8 5!0D9:#&1 . 8 p�#!0(BD4 ' #&/ / 8 qK4 # 1 8 5!0:. #&1 ) /�6 5&.;1 3()-,(. 5!,K5!/ ) BM9:) 1 3(5�BD#&0(BD1 3(# 1�6 . 5!9r#@A5!?&8 1+9:5�B() ' sP)�0(5 <t,(. 5�4 ) ) B�1 5-1 3()�9:5&. )�8 0&1 ) . ) / 1 8 0(?I8 0(/ 1 #&0(4 )�5 6F9�7(' 1 8 >&#&. 8 #&1 );4 5!0(B(8 1 8 5&0(8 0(?-/ ) 1 /;#!0(B�%(8 u

0(#&. H�,(. ) B(8 4 1 8 5&0�#&0(B�1 3() 0�4 5&0(/ 8 B() .29�7(' 1 8 >&#!. 8 # 1 );4 5&0(B(8 1 8 5!0(8 0(?+/ ) 1 /2#!0(B�9�7(' 1 8 >&#!. 8 # 1 );4 # 1 ) ?&5!. 8 4 #!',(. ) B(8 4 1 8 5&0

v�w xzyJ{(|$}I~ �F�K~ �-�������-� ~ �-|A�;{��t~ �+�;{(�r�P�-��~ �A|P�����I� �K~ �2�2{F~ �2�(|��J���+}�~ �K~ ���+�~ �-���+|F�

sP)�%K) ?&8 0�<+8 1 3�#-/ 8 9:,(' )�) p�#!9:,(' )�8 0�<+3(8 4 3��M�2#&0(B��:�;#&. )�%F5 1 3:��� �+`(� ` � 2� 8 /2#I%(8 0(#&. H�>&#&. 8 #&1 )�P� L�� _! I#!0(BM8 /�4 5&0(B(8 1 8 5!0(#&' ' HDB() 1 ) . 9:8 0() BM%!H

�¢¡£¤¥ ¤¦ _§8 6$�M�A¨P�D�2¨ª©�«�LL¬5&1 3() . <+8 / ) l �!� m

� _

Page 23: Nonparametric Estimation of Conditional Distributions in the Presence of Continuous and Categorical Data

­+®(¯ ° ¯�±+² ³�´�­+®(² µ ¯I¶(·!² ³ ¯-¸P¹ º(» ¼F½¾ ¿ ¯ ° ° ·&°�µ ¯ ° ÀÁ­+² µ ®M¼ ¾$ÂÄÃ&ÅÆ ®(¯�À:¯ Ç(² ´&¶�È(° ¯ Ç(² É µ ¯ ÇJÉ ·!¶(Ç(² µ ² ·&¶(´!Ê$È(° ·&Ë(´!Ë(² Ê ² µ Ì�´&¶(Ç�µ ®(´ µ-Í ·!°+µ ®(¯�É ·!° ° ¯ É µ Ê Ì�³ ÈF¯ É ² ÎK¯ ÇJÏA·!Ð&² µÀ:·�Ç(¯ Ê&Í ·&°$´�³ ´!À:È(Ê ¯2³ ² Ñ ¯;·&Í(Ò ÂÄà º!º�´!° ¯;È(Ê · µ µ ¯ ÇI² ¶IÓ2² Ð&Ô(° ¯;Õ�Ö ­+®(² Ê ¯ Æ ´&Ë(Ê ¯;×+É ·!À:È(Ô�µ ¯ ³Aµ ®(¯;´ Ø!¯ ° ´&Ð!¯É ·!¶�Í Ô(³ ² ·&¶tÀ:´ µ ° ² É ¯ ³�´&¶(ÇtÉ Ê ´!³ ³ ² ÎKÉ ´&µ ² ·&¶ª° ´&µ ¯ ³�Í ·&°�µ ­�·J³ ´!À:È(Ê ¯D³ ² Ñ ¯ ³ Ö�Ò ÂÙà º!º�´!¶(ÇªÒ ÂÚà » º&º!º´&Ê Ê · ­+² ¶(Ð�Ô(³�µ ·:´&³ ³ ¯ ³ ³�µ ®(¯IÉ ·&³ µ-· Í2¶(·&µ+Û�¶(· ­+² ¶(Ð�µ ®(¯IÈ(´!° ´&À:¯ µ ° ² É+Í ·!° ÀÁ·&Í$µ ®(¯IÔ(¶(Ç(¯ ° Ê Ì(² ¶(Ð�Ü�Ý-Þ Å

ß+àà

ß+àà

ºº(á â Ã

ã�äã ½

åæ(ç è é ê ë�é ì

ß-àà

ß-àà

ºº�á â Ã

ã�äã ½

åí�î�ï ð�ñtò ó

Ó2² Ð&Ô(° ¯+Õ(ô;õ�¯ Ç(² ´!¶DÛ&¯ ° ¶(¯ ÊF´!¶(ÇDÏA·!Ð&² µ�¯ ³ µ ² À:´&µ ¯ ³�·&ÍAµ ®(¯+É ·&¶(Ç(² µ ² ·!¶(´&ÊKÈ(° ·!Ë(´&Ë(² Ê ² µ Ì�µ ®(´&µ�ö ÂÄÃ&Å Æ ®(¯ÏA·!Ð&² µ�¯ ³ µ ² À:´ µ ¯+² ³2µ ®(¯�ÎKÐ!Ô(° ¯+·!¶�µ ®(¯+° ² Ð!®&µ Å Æ ®(¯+É ·&¶!µ ·&Ô(°�Ê ² ¶(¯+·&¶:µ ®(¯+®(·&° ² Ñ ·&¶!µ ´&ÊKÈ(Ê ´!¶(¯�° ¯ È(° ¯ ³ ¯ ¶&µ ³µ ®(¯:ËK·!Ô(¶(Ç(´&° ÌPËK¯ µ ­�¯ ¯ ¶Jµ ®(¯:¯ ³ µ ² À:´ µ ¯ ÇJÉ ·&¶(Ç(² µ ² ·!¶(´&Ê2È(° ·!Ë(´&Ë(² Ê ² µ Ì�µ ®(´ µ�ö  º�´!¶(ÇJö Â�Ã Í ·&°I´³ ´&À:È(Ê ¯I³ ² Ñ ¯I·&Í2Ò Â�à º&º:Ë(´&³ ¯ ÇMÔ(ÈF·&¶�â!» º!º&º:õ�·&¶!µ ¯�÷�´!° Ê ·�° ¯ È(Ê ² É ´ µ ² ·!¶(³ ÅÆ ®(² ³2³ ² µ Ô(´&µ ² ·&¶�² ³2·&Í µ ¯ ¶:À:·�Ç(¯ Ê ¯ ÇI­+² µ ®:´-Ï$·&Ð!² µ2³ ÈF¯ É ² ÎKÉ ´&µ ² ·&¶ Å2ø ³;² ¶:ù�¯ É µ ² ·&¶:â Å Ã Ö&­�¯�´!° ¯�² ¶&µ ¯ ° ú

¯ ³ µ ¯ ÇM² ¶D®(· ­�­�¯ Ê ÊFµ ®(¯-È(° ·!ÈK·!³ ¯ ÇMÀ:¯ µ ®(·�ÇDÈF¯ ° Í ·!° À:³�° ¯ Ê ´ µ ² Ø!¯+µ ·�´�É ·!° ° ¯ É µ Ê ÌD³ ÈF¯ É ² ÎK¯ ÇMÈ(´!° ´&À:¯ µ ° ² ÉÀ:·�Ç(¯ Ê Å2û ¶Mù�¯ É µ ² ·&¶Mâ Å Ã ­�¯-É ´&¶D³ ¯ ¯+µ ®(´ µ�µ ®(¯+È(° ·!ÈK·!³ ¯ ÇDÀ:¯ µ ®(·�Ç:É ·&À:È(´!° ¯ ³;Í ´ Ø!·!° ´&Ë(Ê Ì�µ ·Iµ ®(¯-ÏA·!Ð&² µÀ:¯ µ ®(·�Ç�­+®(¯ ¶�µ ®(¯+Ï$·&Ð!² µ;² ³;É ·&° ° ¯ É µ Ê Ì:³ ÈK¯ É ² ÎK¯ Ç:´!¶(Ç�µ ®(¯ ° ¯+² ³;·&¶(Ê Ì:·&¶(¯+É ·!¶(Ç(² µ ² ·&¶(² ¶(Ð-Ø&´&° ² ´!Ë(Ê ¯ Å$ü ¯´&° ¯�´ ­�´!° ¯�· Í2µ ®(¯�ý É Ô(° ³ ¯�· Í;Ç(² À:¯ ¶(³ ² ·!¶(´&Ê ² µ ÌKþ(È(° ¯ ³ ¯ ¶!µI² ¶Dµ ®(¯�¶(·&¶(È(´!° ´&À:¯ µ ° ² ÉI´&È(È(° ·!´&É ®FÖF´!¶(ÇM­+² ³ ®µ ·�´!³ ³ ¯ ³ ³:² µ ³I² À:È(´!É µ�² ¶Jµ ®(² ³�³ ¯ µ µ ² ¶(Ð Å�ø ³�É ´!¶PËF¯D³ ¯ ¯ ¶JÍ ° ·!À Æ ´&Ë(Ê ¯D×�Ö2µ ®(¯ ° ¯D² ³�À:·!° ¯:·&Í+´�Ê ·!³ ³² ¶Mµ ¯ ° À:³-· Í�È(° ¯ Ç(² É µ ² Ø!¯�´!É É Ô(° ´&É Ì�Í ·&°-´DÐ&² Ø!¯ ¶�³ ´&À:È(Ê ¯�³ ² Ñ ¯�° ¯ Ê ´ µ ² Ø!¯Iµ ·Dµ ®(´ µIÇ(¯ µ ´!² Ê ¯ Ç�² ¶ Æ ´!Ë(Ê ¯ à Ö

ÿ!ÿ

Page 24: Nonparametric Estimation of Conditional Distributions in the Presence of Continuous and Categorical Data

����� ����� � � � ������ � � ����� � �� ������� ������� � � ���� �� �!����� �� ����� �!������� � ����� "����� �� �#%$�&�' ' ( ) * ����� � # #%$�&�' ' ( ) * ����� � ##%$+$�,.- ��/0����� � # #%$+$�,.- ��/1����� � ##%$+$�,.- ��/0����� � # #%$+$�,.- ��/1����� � #����� ����� � � � ������ � � ����� � �� ������� ������� � � ������� ������� �� ����� �������� � ����� �2������� �#%$�&�' ' ( ) * ����� � # #%$�&�' ' ( ) * ����� � ##%$+$�,.- ��/0����� � # #%$+$�,.- ��/1����� � ##%$+$�,.- ��/0����� � # #%$+$�,.- ��/1����� � #

3�4�5�6 ( ��7 $�&�8�9 :�; < &�8>= 4 * ' < ? 4 8�@>) 6 4 ; ; < A ) 4 * < &�8B' 4 * ( ;�9 &�'C* D�(�E�' &�E &�; ( @F=B( * D�&�@ 4 8�@>* D 4 *�9 ' &�= 4G &�H�< *I=B&�@�( 6 � 3 D�(J:�E�E ( '+* 4�5�6 (�< ;+* D 4 *+9 &�'+K�L � ���%M D�< 6 (I* D�( 6 & M ( 'I< ;�9 &�'+K�L ��N �������4 ;�< ;�( ?�E ( ) * ( @PO 5 :�*�* D�< ;I; 4 =BE 6 (.; < Q (%& 9�KRL � ��� < 8�S�& 6 S�< 8�HB* D�' ( (.S 4 ' < 4�5�6 ( ; OPT>O UFV O 4 8�@�UBWJ< ;( ?�* ' ( =B( 6 X ; = 4�6 6�5�X 8�&�8�E 4 ' 4 =B( * ' < )I; * 4 8�@ 4 ' @�; � 3�4�5�6 ( � ) &�8�; < @�( ' ;�D�& M * D�< ; 6 &�; ; 5 ( D 4 S�( ; 4 ;C* D�(; 4 =BE 6 (+; < Q (+< 8�) ' ( 4 ; ( ;C9 ' &�=YK�L � ��� * &JK�L ��N ����� O 4 8�@ 4 H 4 < 8 M ( M < * 8�( ; ;Z* D�(I) &�8�; < ; * ( 8�*+8 4 * :�' (& 9�* D�(JE�' &�E &�; ( @ 4 E�E�' & 4 ) D 5 ( < 8�H%' ( S�( 4�6 ( @ 4 ;+* D�(J; 4 =BE 6 (J; < Q (J< 8�) ' ( 4 ; ( ; �[ ( ?�* M (I) &�8�; < @�( ' 4 ; < * : 4 * < &�8%< 8 M D�< ) D%U V 4 8�@%U W 4 ' ( 5 & * D>\%] ^ ��N ��_ � T`< ; 4J5 < 8 4 ' X S 4 ' < 4 * (

aRb ��N ��c 4 8�@F< ;+) &�8�@�< * < &�8 4�6 6 X @�( * ( ' =B< 8�( @ 5�XTYL def eg � < 9�U V�h � ; < 8i- U W / hkj+l �

� &�* D�( ' M < ; ( - ���/M D�( ' ( j < ; 4 M D�< * (�8�&�< ; (�mR- ��N n Wo / ( ' ' &�'�* ( ' = M < * D n Wo L ��p ��� 3 D�(+=B( @�< 4 8.E�' ( @�< ) * ( @%) &�8�@�< * < &�8 4�6E�' & 5�4�5 < 6 < * X%4 8�@%* D 4 *C9 &�'Z* D�( G &�H�< *C=B&�@�( 6�4 ' (+E 6 &�* * ( @B< 8%qZ< H�:�' ( ��M D�< 6 (�* D�(+) &�8�9 :�; < &�8B= 4 * ' < ) ( ;4 ' (JE�' ( ; ( 8�* ( @�< 8 3�4�5�6 ( "��

��

Page 25: Nonparametric Estimation of Conditional Distributions in the Presence of Continuous and Categorical Data

rIss

rIsstt�u v w

x%yx.z

{|�} ~ � � ��� �

r�ss

r�ss

t�u v

x.yxJz

{�+��� ����� �

�Z� ����� � s��C� � ��� ���>��� � ��� �P�����>�i����� �+� � � � �B��� � �����i� ���I  ������� � � ������� ¡�� ��¢���¢�� � � � £.� �����+¤Y¥ w�¦C§ ����i����� ��� � � � �B� � �.� �I� ���%� � ����� �B��� �I¨ ����� � ¦.§ ���.  ����� �����J� � ���J����� ���.����� � © ����� ����¡�� �����.� � ¡�� � � � ��� �� ���B¢ ����������� £R¢ � � ª+� � �«� ���B� � � � �B� � � �«  ������� � � �������Z¡�� ��¢���¢�� � � � £�� ��� �%¤¬¥ t �����«¤­¥ w � ���J�� ���B¡�� �J� � © �J���Z®�¥ w�¯ t�t�t ¢���� � ����¡ ��� v ¯ t�t�t � ����� �.°���� � �%� � ¡�� �   ��� � ����� ¦±�²�³ ´�²�µ ¶�· ¸ ¹ º»�¼�½ t w »�¼�½ t wt v t s ¦ v s t ¦ t t s�¾�¿ ¦ t w�w ¿ ¦ vw À�Á�¦  v t s ¦ ¿ w w�w Ã�¦ v s�¾ Â�¦ tÄ °���� � �   � Á ¾ ¦ ¿ Ä Ä °���� � �   � ¿ Â�¦ v ÄÄ °+°�Å.Æ t�Ç Á ¾ ¦ Ã Ä Ä °+°�Å.Æ t�Ç ¿ Â�¦ s ÄÄ °+°�Å.Æ w Ç Á ¾ ¦ ¿ Ä Ä °+°�Å.Æ w Ç ¿ Â�¦ à Ä

§ ��¢�� � ¿�� °������ ��� � ���>�B��� � � È%�����>  � ��� � � ¨   � � � ���B� ��� � ��� ���C� ����¡�� ��¡ ��� � �F�B� � �����>�����>� ��� ��� � ���É��i����� �I�B����� � ¦� ����� � � ���«� ��� �>� � � ����� � ����ªI� � ���k�i����� �F�B����� �Iª+����� ��� ��� �I� È�  � ¡���� ��� ���Ê� � � ����� � ����ªI��� � �� ���%� � � � ���   ��� �.  ��� � �   � � £Ê����� � � � �«� ��� �J� ���%� ����� È�ª����J��� Ë�� �«¢�£«Ì�Í�Î�Ì y Ï>y Î�Ì z � � �PÆ Ï>z Ç ¦%Ð �.� �� ��� � � � � � � ����� �J  ����� � ��� �Z� ���+� � � � �B� � � �%��� ����� � ��� ��� ����� ���+¡�� ��¡ ��� � �B��¡�¡�� ����  �%  ���B¡���� � �%ªI� � �.� ����i����� �J��¡�¡�� ����  �PÑi¡�� ��� ��� �CªI���   �Ê  ���Ê¢P�.� �������Ê� � » ¡�¡P� ����� È » ¦ � � � � ¡ �   � ¨   � � � �������C� ���%� ����� È� ����  � � ���«  ���B¡�� � � � � £«��� � � ��� � �J� ���B� � � � �B� � � �«��� ����� � ��� ¦�Ò � � � �«  ����  � � �R� � � ��ªI� � �R��� ªÓ  ��������� �¾�s

Page 26: Nonparametric Estimation of Conditional Distributions in the Presence of Continuous and Categorical Data

Ô Õ>Ö ×�ØJÙ Ú�Õ�Û�Ô Ö Ô Ú�Õ�Ô Õ�Ü.Ý�Þ�ß Ô Þ�à�á Ø â+Þ ãiØ Ù Ö âIä�ß Ú�à�Þ�à�Ô á Ô Ö Ô Ø â å�Þ�Õ�Û>Ö ×�Ô â+æ�Ú�ç�á Û>Ö ×�Ø ß Ø è Ú�ß ØJà ØJÚ�èZÙ Ú�Õ�Ù Ø ß ÕFÖ ÚÞ�ä�ä�á Ô Ø Û>ß Ø â Ø Þ�ß Ù ×�Ø ß â�ç�â Ô Õ�ÜBä�Þ�ß Þ�éBØ Ö ß Ô Ù�Þ�ä�ä�ß Ú�Þ�Ù ×�Ø â êëRØIÕ�Ú æ�Ù Ú�Õ�â Ô Û�Ø ßCÞJâ Ô Ö ç�Þ�Ö Ô Ú�Õ%Ô Õ%æI×�Ô Ù ×%ìFíCÞ�Õ�Û%ì>îCÞ�ß Ø+àPÚ Ö ×>ï%ð ñIò�ó ò ô êCõ`Ô âCÞJà�Ô Õ�Þ�ß ö%Ý�Þ�ß Ô Þ�Ö Ø

÷Rø ù ó ú�ûJÞ�Õ�ÛFÔ â+Ù Ú�Õ�Û�Ô Ö Ô Ú�Õ�Þ�á á ö>Û�Ø Ö Ø ß éBÔ Õ�Ø ÛFà�öõYüþýÿ�

ÿ�ú Ô èÊñ�����ì í��� í ��%Þ�Õ�Û ñ�����ì î��� î ��ù Ú�Ö ×�Ø ß æIÔ â Ø � ��ò�

æI×�Ø ß Ø � íIÞ�Õ�Û � îJÞ�ß ØJæI×�Ô Ö Ø.Õ�Ú�Ô â Ø�� � ù ó � î� IØ ß ß Ú�ß+Ö Ø ß éBâIæIÔ Ö ×�� � ü ù�� ú�ê��+×�Ø%éBØ Û�Ô Þ�Õ�ä�ß Ø Û�Ô Ù Ö Ø ÛÙ Ú�Õ�Û�Ô Ö Ô Ú�Õ�Þ�áPä�ß Ú�à�Þ�à�Ô á Ô Ö ö>Þ�á Ú�Õ�Ü.æIÔ Ö ×>Ö ×�ØJÜ�ß Þ�Û�Ô Ø Õ�Ö+æIÔ Ö ×Fß Ø â ä Ø Ù ÖIÖ Ú%ì í Þ�ß ØJä�á Ú Ö Ö Ø ÛFÔ Õ��ZÔ Ü�ç�ß Ø�ò�ê

ñIòò ñIò

òùù�� �

� í � î

���� � ! "� #

ñ�òò ñ�ò

òùù�� �

� í � î

$ %& ' ( ) * + ) ,$ + -

�ZÔ Ü�ç�ß Ø ��.0/ Ø Û�Ô Þ�Õ21�Ø ß Õ�Ø áPØ â Ö Ô éBÞ Ö ØIÚ èPÖ ×�Ø�Ù Ú�Õ�Û�Ô Ö Ô Ú�Õ�Þ�á�ä�ß Ú�à�Þ�à�Ô á Ô Ö ö.Ö ×�Þ�Ö�õYü`ú�Þ�Õ�ÛBÖ ×�ØIÜ�ß Þ�Û�Ô Ø Õ�ÖæIÔ Ö ×Jß Ø â äPØ Ù ÖiÖ Ú+ì í ê��+×�ØCÙ Ú�Õ�Ö Ú�ç�ßiá Ô Õ�ØZÚ�Õ�Ö ×�ØZ×�Ú�ß Ô 3 Ú�Õ�Ö Þ�á�ä�á Þ�Õ�ØZß Ø ä�ß Ø â Ø Õ�Ö â�Ö ×�ØZàPÚ�ç�Õ�Û�Þ�ß öJà Ø Ö æ+Ø Ø ÕÖ ×�ØJØ â Ö Ô éBÞ Ö Ø ÛFÙ Ú�Õ�Û�Ô Ö Ô Ú�Õ�Þ�áiä�ß Ú�à�Þ�à�Ô á Ô Ö öBÖ ×�Þ�Ö�õYü ù Þ�Õ�Û�õÉüYúJè Ú�ßIÞBâ Þ�éBä�á ØJâ Ô 3 ØJÚ�è�4Êü`ú�ó ù�ù�ùà�Þ�â Ø Û�ç�ä Ú�Õ � ó ù�ù�ù2/ Ú�Õ�Ö Ø�5�Þ�ß á Ú%ß Ø ä�á Ô Ù Þ Ö Ô Ú�Õ�â ê�+×�Ô â+Ô â�Þ%Ù Þ�â ØJÔ ÕBæI×�Ô Ù ×>Ö ×�Ø76�Ú�Ü�Ô Ö+éBÚ�Û�Ø áPÙ Ú�éBä�á Ø Ö Ø á ö>à�ß Ø Þ�1�âIÛ�Ú æIÕPå�Þ�â+Ù Þ�ÕFà Ø�â Ø Ø ÕFè ß Ú�éÓÞ�Õ

Ø 8�Þ�éBÔ Õ�Þ�Ö Ô Ú�Õ�Ú�è0��Þ�à�á Ø�9�åiÞ�Õ�ÛÊÔ â�Þ�Õ�Þ�á Ú�Ü�Ú�ç�âIÖ Ú>ß Ø â ç�á Ö âIè Ú�ç�Õ�ÛÊÔ Õ��ZÔ Ü�ç�ß Ø:�BÞ�Õ�Û;��Þ�à�á Ø � ê�<�Ü�Þ�Ô ÕPåÖ ×�Ø=6�Ú�Ü�Ô ÖZâ äPØ Ù Ô > Ù Þ�Ö Ô Ú�Õ%ç�â Ø âCÕ�Ú�Õ�Ø+Ú�è�Ö ×�Ø+Ù Ú�Õ�Û�Ô Ö Ô Ú�Õ�Ô Õ�Ü�Ô Õ�è Ú�ß éBÞ�Ö Ô Ú�ÕJÙ Ú�Õ�Ö Þ�Ô Õ�Ø Û%Ô ÕJìFíZÞ�Õ�Û.ì>îZÞ�Õ�Û� �

Page 27: Nonparametric Estimation of Conditional Distributions in the Presence of Continuous and Categorical Data

?�@�A B�@�C D=EGFGH IJ7KML N O J7KML N ON P Q�Q�R SUTMT�R V N VMT�N�R WXS�R WO TMY�R QZS�O Q�R O O SMWMY�R NXN�R N[:\=]�^ ^ _ ` a Q�T�R W [ [:\=]�^ ^ _ ` a P Y�R T [[:\b\=c�d N�efQ�W�R Q [ [:\b\=c�d N�egQMQ�R P [[:\b\=c�d OMefV�W�R Y [ [:\b\=c�d OMehN�R N [

i�jMk�l _ V�m \=]Mn�o p�q r ]�nts j a ^ r u j n�vt` l j q q r wG` j a r ]�n2^ j a _ q=o ]M^0a x�_7y�^ ]�yG]�q _ v�s2_ a x�]�v j n�vta x j a=o ^ ]�s jz ]�{Mr a|s2]�v�_ l Rq r s2y l } y�^ _ v�r ` a q j�l lG~ _ ^ ]�q R i x�_�{M^ j v�r _ n�a q0o ^ ]�s�a x�_ z ]M{�r a=s2]�v�_ l�j ^ _|a x�_ ^ _ o ]�^ _ ~ _ ^ ]2_ ��_ ^ }�� x�_ ^ _j n�v j { j r n�n�]�n�_�]Mo�a x�_�_ q a r s j a _ v�y j ^ j s2_ a _ ^ q7r n�a x�_ z ]�{Mr a7s2]�v�_ l�j ^ _�q r {Mn�r wG` j n�a7q j ��_�o ]�^ba x�_` ]�n�q a j n�a R� ]�^ _�r nMa _ ^ _ q a r n�{2` j q _ q j ^ r q _ � x�_ n�` ]Mn�q r v�_ ^ r n�{:` ]Mn�v�r a r ]�n jMl y�^ _ v�r ` a r ]�n�] o�s:p l a r n�]Ms2r j�l ` j a �

_ {�]M^ r ` jMl v j a j R i x�_ q _�q r a p j a r ]�n�q j ^ _7o ^ _ ��p�_ n�a l } _ n�` ]Mp�n�a _ ^ _ v�r n�y�^ j ` a r ` _ R0� q r n�{ j s�p l a r n�]�s2r jMlz ]�{Mr a j y�y�^ ] j ` x���o ]�^=_ u j s2y l _M��^ j r q _ q j n�p�s k _ ^=]Mo�r q q p�_ qbq p�` x j qbn�]M^ s j�l r ~ j a r ]Mn���r v�_ nMa r wG` j a r ]�n��j n�v2q y�_ ` r wG` j a r ]Mn2] o�s�p l a r y l _=r n�v�r ` _ q R i x�_|y�^ ]�yG]�q _ v2s2_ a x�]�v:v�]�_ q0n�] a=q p���_ ^�o ^ ]Ms j n } ]MoGa x�_ q _r q q p�_ q R \=]�n�q r v�_ ^ba x�_�` j q _�r n � x�r ` xta x�_���� L r qb{�r ��_ n kM}

��������� �����O r o��t���� �=� N j n�v��2���� �b� NS r o��t���� �=� N j n�v��2���� �b� NN ]Ma x�_ ^ � r q _

d S�WMe

� x�_ ^ _ j { j r n�� � j n�v�� � ^ _ y�^ _ q _ n�a � x�r a _�n�]Mr q _���d N�� � �� e � r a x � � � N�� OMR _ ^ ^ ]M^ba _ ^ s2q R  ]Ma x�a x�_�s2_ v�r j n�¡M_ ^ n�_ l�j n�v z ]M{�r a|_ q a r s j a ]M^ q|] o0¢�£�¤ ��� N�¥ �t� � �2� ¦ j ^ _�y l ]Ma a _ v�r n�§�r {�p�^ _Y k _ l ] � � � x�r l _7a x�_�` ]�n�o p�q r ]Mn�s j a ^ r ` _ q j n�v�` l j q q r wG` j a r ]Mn�^ j a _ q j y�y�_ j ^br n i�j�k�l _ Q�R|J q|` j n k _q _ _ n��Ma x�_bs�p l a r n�]�s2r jMl�z ]�{Mr a�s2]�v�_ l ` j n�n�] a0` ]Mn�q r q a _ nMa l } s2]�v�_ l a x�r q�q r a p j a r ]�n j n�v�a x�_b{M^ j v�r _ n�a qr n�y j ^ a r ` p l j ^=o ^ ]Ms¨a x�_ z ]�{Mr a j y�y�^ ] j ` x � r l l�k _7a ]Ma jMl l } s2r q l _ j v�r n�{ Ri x�_:y�]Mr n�a7a ] k _:s j v�_:r q|a x j a�a x�_:y�^ ]My�]Mq _ v©_ q a r s j a ]M^7` j n;^ _ j v�r l } s2]�v�_ l n�]�n l r n�_ j ^|` ]Mn��

SMY

Page 28: Nonparametric Estimation of Conditional Distributions in the Presence of Continuous and Categorical Data

ª|«« ª|«

«¬¬�­ ®

¯:° ¯�±

²³�´ µ ¶ · ¸�¶ ¹

ª7«« ª7«

«¬¬�­ ®

¯�° ¯�±

²ºb»�¼ ½¿¾�À Á

Â�à ÄMÅ�Æ Ç�È�É7Ê�Ç Ë�à Ì�Í;ÎMÇ Æ Í�Ç Ï�Ì�Í�Ë;Ð�Ñ�ÄMà Ò�Ç Ó Ò Ã Ô2ÌMÒ Ç Ó7ÑMÕ�Ò Ö�Ç:× ÑMÍ�Ë�Ã Ò Ã Ñ�Í�ÌMÏ�Ø�Æ ÑMÙ�Ì�Ù�Ã Ï Ã Ò Ú�Ò Ö�Ì Ò�ÛÝÜ ¬ Õ Ñ�ÆÌ2Ó ÌMÔ2Ø�Ï Ç�Ó Ã Þ Ç�Ñ Õ0ß�Ü�à ¬�¬ Ù�ÌMÓ Ç Ë�Å�ØGÑ�Í ®�á ¬M¬�¬ Ê�ÑMÍ�Ò Ç:â=ÌMÆ Ï Ñ2Æ Ç Ø�Ï Ã × Ì Ò Ã Ñ�Í�Ó ã0äbÖ�Ç�Ð�Ñ�ÄMà Ò|Æ Ç Ó Å�Ï Ò Ó|ÌMÆ ÇØ�Æ Ç Ó Ç ÍMÒ Ç Ë�à ÍtÒ Ö�Ç�Æ Ã Ä�ÖMÒ Ô2Ñ�Ó Ò=åGÄ�Å�Æ Ç ãæ�ç�è é�ç�ê ë0ìGíGî ïð7ñMò ¬ à ó ð7ñMò ¬ à ó¬ ó ® ó�ã Èôà õ�ã « ¬ ã ö ¬ óMóMö�ã ® «M÷ ã ÷ ¬ ã ¬à à õ�ã ¬ô® ¬ È�ã ÈZà ÷ ã õ à « õ�ã È «M« È�ã «ø«M÷ ã Èó ¬ ã öfà õ�ã ùúó ® ó�ã ö ó à�ã ó «M÷ ã ® óMó�ó�ã Èû â=Ñ�Æ Æ Ç × Ò õ�ó�ã õ û û â=Ñ�Æ Æ Ç × Ò ÷ ó�ã ¬ ûû âbâ=ü�ý ¬�þ õ�ó�ã ÷ û û âbâ=ü�ý ¬�þ ÷ ó�ã à ûû âbâ=ü�ý à þ õ�ö�ã ¬ û û âbâ=ü�ý à þ ÷ ó�ã ¬ ûû âbâ=ü�ý ó þ õ�ó�ã ù û û âbâ=ü�ý ó þ ÷ àMã ÷ û

ä�ÌMÙ�Ï Ç7õ�É=â=ÑMÍ�Õ Å�Ó Ã Ñ�ÍtÔ2ÌMÒ Æ Ã ÿ:Ì�Í�Ët× Ï ÌMÓ Ó Ã åG× Ì Ò Ã Ñ�Í2Æ ÌMÒ Ç Ó=Õ ÑMÆ0Ò Ö�Ç7Ø�Æ Ñ�ØGÑ�Ó Ç Ë�Ô2Ç Ò Ö�Ñ�ËtÌMÍ�ËtÒ Ö�Ì Ò=Õ Æ Ñ�Ô�ÌÐ�Ñ�ÄMà Ò|Ô2Ñ�Ë�Ç Ï ãË�Ã Ò Ã ÑMÍ�Ì�Ï�Ø�Æ Ç Ë�Ã × Ò Ã ÑMÍ;ÑMÕ=Ù�à Í�Ì�Æ Ú;ÌMÍ�Ë©Ô�Å�Ï Ò Ã Í�Ñ�Ô2à ÌMÏ�× Ì Ò Ç ÄMÑ�Æ Ã × Ì�Ï�Ë�ÌMÒ Ì��|Ö�Ç Í;Ò Ö�Ç2× Ñ�Í�Ë�Ã Ò Ã ÑMÍ�à Í�ÄtË�Ì Ò ÌÌMÆ Ç�× ÑMÍ�Ò Ã Í�Å�Ñ�Å�Ó7Ì�Í�Ë�× Ì Ò Ç ÄMÑ�Æ Ã × Ì�Ï��|Ã Ò Ö�ÑMÅ�Ò�Æ Ç ��Å�Ã Æ Ã Í�Ä:Ò Ö�Ç:Æ Ç Ó Ç ÌMÆ × Ö�Ç Æ|Ò ÑtÓ Ø�Ç × Ã Õ Ú�Õ Å�Í�× Ò Ã ÑMÍ�Ì�Ï�Õ ÑMÆ Ô2ÓÕ ÑMÆ|à Í�Ë�Ã × Ç ÓbÌMÍ�Ë�Ë�Ã Ó Ò Æ Ã Ù�Å�Ò Ã ÑMÍtÕ Å�Í�× Ò Ã ÑMÍ�ÓbÒ Ö�Ì Ò ���|Ö�Ç Í�à Í�× Ñ�Æ Æ Ç × Ò Ï ÚtÓ Ø�Ç × Ã åGÇ Ë���Ï Ç ÌMËtÒ Ñ2Ù�à Ì�Ó Ç Ë�à Í�× Ñ�Í��Ó Ã Ó Ò Ç Í�Ò�Ç Ó Ò Ã Ô2ÌMÒ Ã ÑMÍ;Ì�Í�Ë©ÖMÚ�ØGÑMÒ Ö�Ç Ó Ã Ó�Ò Ç Ó Ò Ó�Ö�Ì �à Í�Ä�Ì�Ó Ú�Ô2Ø�Ò ÑMÒ Ã × Ì�Ï Ï Ú�à ÍMÌ�Ï Ã Ë;Ó Ã Þ Ç:Ì�Í�Ë©ØGÑ �bÇ Æ ãtäbÖ�Ç

ó�ù

Page 29: Nonparametric Estimation of Conditional Distributions in the Presence of Continuous and Categorical Data

� � � ������� ��� ���� � ��� � ���� ����� ��� ��� �� � � � � � ��� � � � ! " � ������� �� � � � ! �#� ����� � �%$�! � ����&'� (���� � � � �)� ��� �! &�� *�� ! � &�� ��! &�� ��! �+! &�� � �&�� ��$���! � �,! �%� ��&����&���! � ���-�� ��� � � ��� �.� � �&������ ������ ��� � � � ! �,� ����� � �+! &�#$�! ���,���� ! � � ����/� ! � -�� � ! ��&�� 0

13254�6�7�8 9�:/; 4 6

< &=� � � � � � &�� �'� �>����� �� � � � ! �'� ����� � � ?,@A0+B+� (C$�� �� �'� ��� �CD �� ��� ����� � � ��� ��$�� ��&�E�?,��-���� �� ��� �'-�� � � -�� F�0HG�� $%� ��� � ?�� ��� � ���� �'� ! � -��� ! �&�� ! &C$���! � �I! ��! � � (�� � � � � � �C��! *�� -�� ��� �>� � � � ! � �C����� ��� � � � ! ��� ����� � ?+��&��J� ���'� ����� � ! &�E���+K ��! &��� ��&���! � ! �&����%��! � � � ! ��-�� ! �&�� ! &J� ���'��� � � � &�� �'��� �� �>� �� � E��� ! � ��L��&��>� �&�� ! &�-���-��#��� � �'$+��-�� �>� ����&�� � -�� �J! &�� � ��&�� �0�M���� � � ! � � �N����� �� � � � ! �� ����� � � � �N� ��� � �'� �&���! � ! ��&���%��! � � � ! ��-�� ! ��&��A� ! � ��� �C! E&���� ��� ���'� ��&���! � ! �&�! &�E)! &�� �� � �� ! �&J��&��� � � -�� &'-�&�� ��&���! � ! �&�������� � ��! � � ! �&�� ? ��&���� ��� � � � �� �#�� �N&�� �,-�� � � -�������� � 0

O ��! �+������ �+��� � � � &�� �+�A&��&������ �� � � � ! �%������� ���� � � �N� ����� � � ! � � � ! ��&A����A�#-�� � ! ���� ! � � �%� ��&���! P� ! �&�������� �������! � ! � ����� &�� ! � �'� -�&�� � ! ��&'��&���! � ��E�� ���! � &�,$���� &'� ��� � �'$�! � �'� ! (�� ��� �� � E��� ! � ��Q��&��� ��&� ! &�-��-��N��� � ��0 O ���A������ ���� �)� ��&�� �A-�� � � -��/! &'��$�! ���N���� ! � � �'��L� ! � -��� ! �&�� ?��&��)����� �,&������ �� ��� ���N��-�� ��� &'� �/� �� � � � �,� � � � ! " � � � ! ��&��&�� ���N� � � � �� � ��� � 0

O ����� � � ��&�! R�-���� ��&J� ��������� ! � �)� �)��&�-��A� � �A���! &�� � � � � � ! &�E���-�� ���� ��� � � � ! � �� � �)� $�S�$+��� ��&���� �� � � ! � � �+���� ��� � � � ! � �� � � ! &� � ��� � ����� ����� ���� � � � 0QT>�,� �&�� ! ��� �+&�-�� � � ��-��%� ! �#-�� �� ! �&��L��&�������� ! � � � ! ��&�� ?/�&��J� U�� �A� �� ��E� &�� � ���+E�-�! ��� � ! &�� �N���N� �'$���� &>� ��� � � � ��&�! R�-���� � �>��-�� � � � � �� ����� ��� � � � ! �/������� ���� ��� ��$���� &#� ��&���-�� � ! &�E��#-�� � ! &���� ! �� � �&���! � ! ��&������ � ��! � � ! �&�0 O ���L� ! �A-�� � � ! ��&����� � � � &� � �C! &)� ��! �#����� � �A��! E��� ! E���A� �� �)� ����� ��&�� ! � � � &�� �J�&��>� ��� V � (�! ��! � ! � �)��%� ������� ��� ��� � ������� ���� �>� ���#�)&�-��A� � �A� �,� ! � -�� � ! ��&��#�&��J��� � ��� (��� ! &�� � ����� � � � ! � � ! � ��L" &�! � � P � ��� ��� � � ��� �#��-�� ! &�E'� ������� ����� � �J� � � �����>� � � � � ! ��� � �)� ��� � � � � � �>� ��� � ! " � �C���� ��� � � � ! ��� ����� � � 0JW,&���� ��� ���� � &�� "�� ��� �,-�� ! &�E�� ��! � ������ ���� �C! �A��� � ��������� � � ! � � � �J! &C� ��� ���� ! � ��&>� ������� �� � � � ! ��� � � �������� -�� �J���AX���E! � � ����� � �N� ���A� �� � E��� ! � ��+��� � ��! � � ! ��&�Y������� ���� ��� �A� -�� �C���#� ����XQ�E�! �A��� �� ��� ! E�! �� � � � � ! � � ! �&��+�&�� �� �A� ���,� ���! � ����� �������! � ! � ! � �/�&�����&A� ���,E� ����! � &��+���� ���,��� � ��! � � � ��� �&���! � ! ��&���

Z[

Page 30: Nonparametric Estimation of Conditional Distributions in the Presence of Continuous and Categorical Data

\�] ^_�`�_�a b a c a d e f g�h�a b dLc h�d%\�] ^\�^e d iA`�\�\�] ^`�j hAa e/j `�\�`_�b d%^ k�i�d c d j c a l�mN`�g�a i�d+n`] a d c oA^ k�e a c p�`c a ^l�eg�a c h�l�^ k p�l�j c a ^l�`�bQm�p�d e e a l�m�] d q�p�a ] d i)_o'c h�dA] d e d `�] j h�d ] rAs ^],`�l�p�t#_�d ]N^ k+\�p�_�b a j b o�` n`�a b `_�b di�` c `�e d c eNp�e d i�k ^],j ` c d m^�] a j `�bQ\�] d i�a j c a ^l�f�c h�dA\�] ^\�^e d i�t d c h�^�i'e c `�md e,`�e c ] ^l�m�\ d ] k ^] t `�l�j de p�mm�d e c a l�mAc h�`c%c h�a e%t d c h�^�i�t ` o�_ dN^kQn`b p�dNa l�`\�\�b a d i�e d c c a l�m�e r

u h�d�t `�a l>_ d l�d v�c�^k%c h�d�\�] ^�\ ^�e d iC`\�\�] ^�`j hCb a d eAe a t \�b o>a l>c h�d�`_�a b a c o�c ^)\�] ^�j d d iJg�a c hd e c a t `c a ^l>^ k,j ^�l�i�a c a ^l�`�bLi�a e c ] a _�p�c a ^�l�e#`l�i>c h�d a ]Am] `�i�a d l�c eNg�a c h�^�p�cA\�b `�j a l�m'c h�d�p�l�] d `�b a e c a j_�p�] i�d l'^k/j ^�] ] d j c�\�`�] `t d c ] a j,e \ d j a v j ` c a ^�l�^ kQc h�dNp�l�i�d ] b o�a l�m wNxNyCp�\ ^�l�c h�dN] d e d `�] j h�d ] r

z{

Page 31: Nonparametric Estimation of Conditional Distributions in the Presence of Continuous and Categorical Data

|~},�}N�/}N���%}N�

��� � � ��� � �����Q�����.��� � �� ���Q���Q�A���A�/� � ������ �/� ����� � � ���  � � � �#¡�� ���  ¢�£�� � �   � ¤ � ���� � ��'¡¢'� ���A��   ��� �¤ � � ����£�¥ � ¦�§ ¨ ©�ª « ¬ § ­®#¯ °�� ±�� � ²�� ±³�²�´ µ��

��¤ � ¤ � ¢�����¶,�Q� � �·�� � ��� ¸,����� � � � � � ���,  � � ¹ ����� �N¤ ��£�� � � º/�H� ��  ��� ¢ ¥ �Q»�¨ ¼�¬ ½ ®¾/¨ ¿�À�Á ¨ ½�¨ ©A§ Á�Â/§ « ª ¬ ®Ã« ¼�¬ ªNÄ�Å���� ²�·±³��Æ ±����

Ç �   ��£�� �/È%�/ÉN�+� � ������ �NÊ�Ë ªAÌ+¬ ®�Á « § Á ª�¨ ¿AÀ�Á ¨ ½�¨ ©�ª « ¬ § Á Í Î�Ï/¾ ® Í Í § Á�®½ ÐJÏ+¨ ½�« ª ©,Ñ�¨ ¬ ®¬ Ò �/��£�£�� � ���Ó � � � � ¢�

Ç � Ô�¤ �������#��� � ��·µ�� � � �Õ��� � ����� � ���� � � � � ��� ¢��Ö�� ������   ��� ��¤ � � ����£AÖ �� /� ���������� ¢�� � �L�Ö�� � � � ×��  Ø� � ����£��� ��¥ � ¦�§ ¨ ©�ª « ¬ § ­®#¯ Ù�� ±�� ����·�´ ³���·²��

�+�����£�����  � ��ÚQ�%�ÜÛN� Ô%�� Ý � ���#�,� � ���Æ� �N� Þ,�I�>� � �� � � ������£�Ø ¡���� � £C�¹�¹�  ���� �I� �I�����¹���  �¤ � �   � �� ¤ ��� � ��� ��×A����£��   ��� � Ø ���� � £�� � � ����¥ ��ß « ®« § Í « § Á Í à=Ì+¬ ¨á ®�á § ¾ § « ÒAÂQª « « ª ¬ Í�â â���� ³��Æ��

ã � � ���   ��ÉN���N�/� � �±���� �Q� ¶%���A��� �#�ÖL¤#��� � � ¹�� �N¤ � ��� ��  � ¤ � �� �,� �'� ä������¤ � �N¹�  ��¡�� � ¤ � ¥ ��å�½ ½ ®¾ Í ¨ ¿À+¼�æ�ª ½�§ Á Í�Ù���� �� ³ � ·�·��

�,�   ç ��� ����� � ������ ��� Ú/�  ��¤ � �   � �,���£�� � ¤ � ¹��  ��¤ � �   � ��� � � � ¤ �� � ���� Ö�� ���,¡�� ����  ¢   � � ¹ ����� �,¤ ��£�� �� Ö/� ��¡ ���� +¤ ��  �� �,¹��  � � � � ¹�� � � ����¥ ��»�¨ ¼�¬ ½ ®¾/¨ ¿�å+Ñ�Ñ ¾ § ª ÐAÀ�Á ¨ ½�¨ ©�ª « ¬ § Á ÍNÄ Ä � ±�� � ±�´�� ³�±²�µ��

è ��¡�¡ � ¤ ��� ����Û#� ã � � è �   ¤ ���� � �����HÉ�� ¤ ¤ �������� � ��� ·�� � � éL��  � �¡�� ����   ��� ��£�� ��� � � ¢�� � � � ¤ �� � �� � �£�� � �   � ¤ � ������%������ ¢�� � � ¥ �LÏ+¨ ©,Ñ�Í « ®«�¹�¹���� �· ³ � ·�Æ��

è ��� � �ÕÚQ�=� � �·�� � �5� Þ,�ê�����¹���  �¤ � �   � �ë¤A��� � � ��  � �� �.¡�� ����  ¢ì£�� � �   � ¤ � ���� � ���¥ �Õ¦�§ ¨ ©�ª « ¬ § ­®¯ í�� � � ��´ ·�� ³�´ ��²��

è ��� � � ÚQ�/� � ��·���® � ��� Þ,�'����� � ¡���� �Ø � � � ¡�� �  %� �� �,���£'£�� ��� � � ¢�� � � � ¤ �� � ���¥ �%Ê�Ë ª,å�½ ½ ®¾ Í ¨ ¿Nß�« ®« § Í « § Á ÍÄ�î���� ²���� ³��Æ�� ���

è ��� � �ÚQ��� � ��·���á � ��� Þ,�#� ���+��� �+�Ö � �¤ ¹���� � � ¢#� ��¹�¹ ��  � � £A£�� ��� � � � � �/� �#¹�  �¡�� � ¤ �Q�Ö £�� � �   � ¤ � ���� � ���¥ �»�¨ ¼�¬ ½ ®¾/¨ ¿�ï�¼�¾ « § 𮬠§ ®« ªNå�½ ®¾ Ò Í § Í�â °���� ±�� ³ � Æ·��

è ��� � ��ÚQ��� Ó ����£����)��ÚQ��� � ��··�� � � Þ,�������¹���  �¤ � �   � �%£�� � �   � ¤ � ��� � � ���A��� � ��×#£�� ��� � � ¢�£�� ñ��   � ��� � � ¥ �¦%§ ¨ ©�ª « ¬ § ­�®NÙ î�� ±�� ��Æ ²�� ³�Æ ²����

è#ò��  £�� � � Ó � �ó�'�    ����� ô �Q� � ��·���� � � Þ,¹�� � ¤ ���¡����£�Ô�� £�� ��� � � � � � � ���� �������¹���  �¤ � �   � �,  � ×�  � � � � ���Ö ����� � � ����� � � � ¤ �� � ���¥ � å�½�½ ¼�¾ ÍA¨ ¿Nß�« ®« § Í « § Á ÍNÄ�°���� ²���Æ ³�� ²·���

����  £�� ����õA��é#� ��õN� �� �/����¶,��� Ç � ¡�¡¢��Q���Q���L� � ������ �Qï�¼�¾ « § 𮬠§ ®« ª#å�½�®¾ Ò Í § Í ���,� ��£�� ¤ � �AÚL  � � � �ö ����£�����

��� ã �£�£�� ���QÛ#�L� � ��·²�� ��ÈL� �����¤ � �   � �A������ ¢�� � �,�Ö+÷������ � � � � � ���#  � � ¹ ����� �A¤ ��£�� � � �Q§ ½�øQ�Q�,  � � � � ��� ��5��� ù ��   � � � ×�� � ��  ��� £�� ��� è ����£�¡ ����� �Ö/ÈL� �����¤ � �   � � � ¥ � ú���  � � è ��� � ���£���¹�¹���� ±·�Æ ³ � ²�Æ���

±�µ

Page 32: Nonparametric Estimation of Conditional Distributions in the Presence of Continuous and Categorical Data

û�ü ý�þ ÿ���������� � ���� ÿ�� ������� � ��� � � � ��� � �Aý ������� �� �� ü � ! ��"�� ý�#�� "�ý�������ü ü � � #%$%ý���� ��& �'��ý�(�ü �Lý ��$+ý�ü )� ý*� ! ý���ý���� !�����#+� � � � � � � � ! ��"���� � (��� �� � ý���� & ÿ�,�- . /�. 021 3 4 5 - 6%787�� 9� ÿ�� :�; <�� ���

=���#��ü � ����ÿ2>��2� � �:�;� ÿ?� @��A��ý��� ���ü ����� � ü � !B� � � � ����� � �)ý��?#�� ��� � � �C� (���! � � ý����D����#5ü � E�ü � � � � ý��! (�ü ��� � & ÿ�F�G81 . 4 H2. I�JLK�K8M 5 1 N*OL4 .�P 6�P 5 M 5 3 H�Q�R�ÿ�� �: <8� �S��

TU�ü þ � ��ÿ'>��L� � �:�V� ÿL� @��D� � � � ����� � ý��)ý����W �ü ý�X���X�� " � � �Y#�� ��� � � �Y� (���! � � ý��Y����#D� ý�#�� & ÿ'J�/8/86�M Z?. I[W6�3 G81 0�6�3 5 - 6�M�\83 6�3 5 Z 3 5 - Z�]8]�ÿ�� S�; <8� ^����

_ � " ��� ü ������ÿ'`��UaC��� � ��:� ÿLb*1 /�Z 5 3 H+,'Z 3 5 0�6�3 5 . /+I . 42\83 6�3 5 Z 3 5 - Z+6�/�N+b%6�3 6WJ�/86�M H Z 5 Z ÿ�cL���� ����������#+d���" " �

aD� � � ý���ÿ�e%�f� � �:�9� ÿ�� _ � ý�ý � ��ü � E�ü � � � � ý��?������" ��� � � & ÿ�\86�/85 g G�H�6%h8i�j Q�7�ÿ�����; <�� �9��

^��

Page 33: Nonparametric Estimation of Conditional Distributions in the Presence of Continuous and Categorical Data

kmlonUp*qWr s�t2uwvCxfuUr yzp%uUr {2t

|�}�~����L� ��~�� ������� � ��}���� ~ � � ��� ~ �%� ��� ��~���� ���8��� ~ �D��~ � �����Y� ��� ��~2� ��}�� � � � ~ }��*~ � � � ����� � ��}Y���L� ��~

� � ����� ~ }�� ��|�� � ~ }�� }�� ��� � ~ � � � ��� �8~ � � �8~ ������� ����~ � � � �?������~ � �*��� ~+����~ ������� ~?� ������� ~ ��� � � � ��}��������� ������� ~ � ~ � �%��� � � ~ ����� } ��� ��~ }%� ��~ � � ����� ~ }��'� �U� ��� }�� ~ � ~ � � �U�U� � ��� ~������ ��� ��� ��~���~ ��� ��}*��� ��������� � � � �

� � ����� ~ }�� � � � �?� ~ � ��~ � ��� �%�?�L� ���L� ��~���� ���8��� ~ �+��~ � �����?��}��2� ��~��f� � � ����~ � �������

���

����

���  ¡��  ¢��  £

¤ �¤%¥

¦�§¨ © ª « ¬ ­ « ®¦ ­ ¯

���

����

��  ¡��  ¢

¤ �¤�¥

¦ §°�± ² ³8´ � µ¦ ­ ¯

�U� � ��� ~���¶L·?~ ��� ��}+¸�~ � }�~ ����}��?��� � � ��~ � � � ����� ~ �����f� ��~ � � ����� ~ }���¹�~ � � ����� �f� ��~�� ��}���� � � ��}�������� ����º����� � � � ��� ������»A¼ ¡ � � � �+� ~ � ��~ � ��� ���2��� ������� ������� ~�� � ½ ~����'¾+¼ ¡ ��� �L¿���~�� � ��� ~���}?� ��~�� � � ���� �L� ��� ��� � ���À�*�f� � � ��������~ � �

Á ��� ~U� ������� ��~ � � ����� ~ }��U� ��� ��~L��� � � �f������~ � � � � �%� ~ � ��~ � �f� ���%ÂU� ��� � ����� ��Ã�Ä�Å »Æ¼ ¡�Ç �?� È � ¥ É ÊË ¡ � Ã%Ä�Å »C¼ ¡�Ç � � È � ¥ É Ì�ÍÎ Â �'Ï�}��?��� � � �8~ � � �8� � � � ��}2���f~ � � ��~ �L� ��~�~ � � ���L��� � � � � ����� � ��}2���L� ��~�� }���~ Ð� ��}�� � � ��} � � � ��� ~ � ��� ��� }?��� ��� ~ �?� }�� ��}�� � � � ~ }���~ � � � ��� � ~ ��� �f� ��� ��� ~ � ����}�� ~��

£�¢

Page 34: Nonparametric Estimation of Conditional Distributions in the Presence of Continuous and Categorical Data

ÑUÒ Ó�Ô�Õ ÖU×�Ø�Ù Ú Û Ü�Û Ý�Ö'Þ�Ö ß�Ò à�á�Ø�Õ Ú�â�à�â�Ò Ù Ò Û ã�Ó�Õ à�ß�Ò Ö á�Û�ä�Ò Û Ý�Õ Ö Ü Ø�Ö å ÛfÛ ÚLæ2ç�è Ú�Õ8Û Ý�Ö'Ø�Õ Ú�Ø8Ú�Ü Ö ß%Þ�Ö Û Ý�Ú�ßà�á�ß*Û Ý�Ö�éfÚ�Ó�Ò Û'Þ�Ö Û Ý�Ú�ß�êUë�Ý�Ö�Ù Ò Þ�Ò Û à�Û Ò Ú�á�ÜfÚ�è�Û Ý�Ö�é�Ú�Ó�Ò ÛLà�Ø�Ø�Õ Ú�à�å Ý�ì�Ô�Ò å í�Ù ã�â�Ö å Ú�Þ�Ö�à�Ø�Ø�à�Õ Ö á�Û�Ü Ò á�å Öà�Ù Ù�Õ Ö Ü Ø�Ú�á�Ü Ö Ü�à�Õ Ö?Õ Ö ì�Ô�Ò Õ Ö ßBÛ ÚYÝ�à î�Ö2Û Ý�Ö+Ü à�Þ�ÖWï Ü Ý�à�Ø�Ö ð'ß�Ò ñ�Ö Õ Ò á�ÓYÚ�á�Ù ãBâ�ãDÛ Ý�Ö?Þ�à�Ó�á�Ò Û Ô�ß�Ö ò Ü Ò Ó�áÚ è�Û Ý�Ö?à�Ü Ü Ú�å Ò à Û Ö ßBØ�à�Õ à�Þ�Ö Û Ö Õ*Ò áDÛ Ý�Ö2Ò á�ß�Ö óDè Ô�á�å Û Ò Ú�á�êDë�Ý�Ö?Ø�Õ Ú�Ø8Ú�Ü Ö ßBÞ�Ö Û Ý�Ú�ßBØ�Ù à�å Ö Ü*á�ÚYÜ Ô�å ÝÙ Ò Þ�Ò Û à Û Ò Ú�á�Ü'Ú�á?Û Ý�Ö�Ô�á�ß�Ö Õ Ù ã�Ò á�Ó*Ó�Õ à�ß�Ò Ö á�Û ê

ô�õ

õ

ô�õõ

ô�ö�÷ õô�ö�÷ øö�÷ ùö�÷ ú

û çû%ü

ý�þÿ � � � � � � �ý � �

ô�õ

õ

ô�õõ

ö�÷ ö�ùö�÷ ö�õö�÷ ö��

û çû�ü

ý þ� � �� ç �ý � �

ÑUÒ Ó�Ô�Õ Ö�×����?Ö ß�Ò à�á+í�Ö Õ á�Ö Ù�à�á�ß?é�Ú�Ó�Ò Û�Ö Ü Û Ò Þ�à�Û Ö Ü�Ú�èfÛ Ý�Ö�Ó�Õ à�ß�Ò Ö á�Û�î�Ö å Û Ú�Õ�Ú èfÛ Ý�Ö�å Ú�á�ß�Ò Û Ò Ú�á�à�Ù�Ø�Õ Ú�â��à�â�Ò Ù Ò Û ã�Û Ý�à�Û���� ø ä�Ò Û Ý+Õ Ö Ü Ø�Ö å Û�Û Ú�æ ü è Ú�Õ�à�Ü à�Þ�Ø�Ù Ö�Ü Ò � Ö�Ú�è���� ø ö�ö êLë�Ý�Ö��8Ó�Ô�Õ Ö�Ú�á?Û Ý�Ö�Õ Ò Ó�Ý�ÛÒ ÜLÛ Ý�à Û�è Õ Ú�ÞÀà*éfÚ�Ó�Ò Û�Þ�Ú�ß�Ö Ù ê

!