Подробное описание статьи:
Базовый файл robots.txt для старта вашего проекта
Обязательно укажите в host адрес своего сайта и сгенерируйте карту сайта
Как сгенерировать карту сайту?
User-Agent: *
Disallow: */index.php
Disallow: /bitrix/
Disallow: /search/
Disallow: /*show_include_exec_time=
Disallow: /*show_page_exec_time=
Disallow: /*show_sql_stat=
Disallow: /*bitrix_include_areas=
Disallow: /*clear_cache=
Disallow: /*clear_cache_session=
Disallow: /*ADD_TO_COMPARE_LIST
Disallow: /form.php
Disallow: /*ORDER_BY
Disallow: /*SORT_FIELD
Disallow: /*SORT_TO
Disallow: /*VIEW
Disallow: /*offerID
Disallow: /*SECTION_ID
Disallow: /*set_filter
Disallow: /*?print=
Disallow: /*&print=
Disallow: /*print_course=
Disallow: /*?action=
Disallow: /*&action=
Disallow: /*register=
Disallow: /*forgot_password=
Disallow: /*change_password=
Disallow: /*login=
Disallow: /*logout=
Disallow: /*auth=
Disallow: /*backurl=
Disallow: /*back_url=
Disallow: /*BACKURL=
Disallow: /*BACK_URL=
Disallow: /*back_url_admin=
Disallow: /*?utm_source=
Disallow: /*?bxajaxid=
Disallow: /*&bxajaxid=
Disallow: /*?view_result=
Disallow: /*&view_result=
Disallow: /cart/
Disallow: /letters/
Disallow: /exit/
Disallow: /desktop_app/
Disallow: /compare/
Disallow: /wishlist/
Disallow: /order/
Disallow: /personal/*
Disallow: /auth/
Disallow: /ajax/
Disallow: /ajax.php
Allow: /bitrix/components/
Allow: /bitrix/cache/
Allow: /bitrix/js/
Allow: /bitrix/templates/
Allow: /bitrix/panel/
Allow: /bitrix/*.png*
Allow: /bitrix/*.css*
Allow: /bitrix/*.js*
Allow: /*.js*
Allow: /*.css*
Allow: /*.jpg*
Allow: /*.gif*
Allow: /*.png*
Host: site.ru
Sitemap: https://site.ru/sitemap.xml