آموزش سئو

رفع خطای 403 Forbidden در Ahrefs به سرعت و مؤثر در کمترین زمان

وحید بهنام13 دقیقه مطالعه1 بازدید0 دیدگاه

وقتی در حال تجزیه و تحلیل بک لینک ها یا کلمات کلیدی خود با خطای 403 Forbidden در Ahrefs مواجه می شوید، کار شما به سرعت متوقف می شود و اضطراب تان افزایش می یابد. این مقاله، به صورت گام به گام و بر پایه تجربهٔ متخصصان سئو، روش های دقیق رفع این مانع را به شما نشان می دهد. از تنظیمات مرورگر و بررسی دسترسی IP تا به کارگیری توکن های معتبر و پیکربندی صحیح سرور، هر مرحله با مثال های واقعی توضیح داده می شود.

همچنین نکات پیشگیرانه ای که باعث می شود این خطا در آینده کمتر رخ دهد، در بخش های انتهایی گنجانده شده است. با دنبال کردن این راهنمای جامع، می توانید دوباره به سرعت به داده های ارزشمند Ahrefs دسترسی پیدا کنید و تمرکز خود را بر بهینه سازی استراتژی های دیجیتال حفظ کنید.

فهرست مطالب

درک خطای دسترسی ممنوع Ahrefs

خطای 403 Forbidden به این معناست که سرور درخواست شما را دریافت کرده اما به دلایل امنیتی یا دسترسی اجازه پردازش آن را نمی دهد. وقتی Ahrefs با این خطا مواجه می شود، در واقع ابزار به دسترسی به صفحات شما برای جمع آوری داده های سئو نمی تواند ادامه دهد. این مسأله می تواند به صورت ناگهانی ظاهر شود، حتی اگر پیش از آن Ahrefs بدون مشکل کار می کرد.

دلیل رایج بروز این خطا، مسدود شدن آدرس IP ابزار توسط فایروال یا تنظیمات امنیتی سرور است. بسیاری از سرویس های میزبانی وب، CDNها (مانند Cloudflare) و افزونه های امنیتی به صورت خودکار ترافیک مشکوک یا با نرخ بالای درخواست ها را مسدود می کنند. علاوه بر این، عدم ارائه یک User-Agent معتبر توسط Ahrefs، یا تنظیمات نادرست فایل robots.txt که دسترسی ربات ها را به کل دامنه یا مسیرهای خاصی ممنوع می کند، می تواند منجر به دریافت کد 403 شود.

برای تشخیص دقیق مشکل، می توانید این فهرست کوتاه را قدم به قدم اجرا کنید:

  • بررسی لاگ های سرور برای یافتن درخواست های Ahrefs (معمولاً با آی پی های 104.XXX.xxx.xxx یا دامنه های ahrefs.com) و بررسی وضعیت 403.
  • مطمئن شوید که آدرس های IP Ahrefs در فایروال یا تنظیمات IP whitelist لیست سفید شده اند.
  • اگر از CDN استفاده می کنید، تنظیمات “Bot Fight” یا “Rate Limiting” را بررسی و در صورت نیاز استثنا برای Ahrefs اضافه کنید.
  • فایل robots.txt خود را بازبینی کنید؛ خطی مانند Disallow: / برای همه ربات ها می تواند Ahrefs را مسدود کند.
  • در صورت استفاده از افزونه های امنیتی وردپرس یا Joomla، گزینه های “Block Bad Bots” را موقتاً غیرفعال کنید و رفتار Ahrefs را مجدداً تست کنید.

نمونه ای عملی: یک وب سایت فروشگاهی که از Cloudflare به عنوان CDN استفاده می کرد، پس از به روزرسانی تنظیمات “Security Level” به “High” به سرعت درخواست های Ahrefs را به 403 تبدیل کرد. با ورود به داشبورد Cloudflare، در بخش “Tools → IP Access Rules” آدرس های IP Ahrefs را به لیست سفید افزودند و در همان بخش “Firewall → Managed Rules” قاعده ای برای استثنای مسیر /sitemap.xml ایجاد کردند. پس از این تغییرات، Ahrefs توانست دوباره به صورت کامل ایندکس سازی کند.

دلیل خطاراه حل پیشنهادی
مسدود شدن IP توسط فایروالIPهای Ahrefs را در whitelist اضافه کنید
قوانین Rate Limiting در CDNاستثنا برای مسیرهای مهم (مانند sitemap) تنظیم کنید
robots.txt مسدودکنندهخطوط Disallow غیرضروری را حذف یا اصلاح کنید
عدم User-Agent معتبردر تنظیمات سرور یا افزونه ها، User-Agent Ahrefs را بپذیرید

بررسی تنظیمات IP و فایروال

خطای 403 معمولاً وقتی رخ می دهد که سرور درخواست های Ahrefs را به عنوان ترافیک مشکوک شناسایی کند. یکی از رایج ترین دلایل این مسأله، مسدود شدن آدرس های IP ابزارهای Ahrefs توسط فایروال یا تنظیمات امنیتی میزبان است. پیش از اینکه به تنظیمات پیشرفته تر بپردازید، ابتدا باید مطمئن شوید که IP های Ahrefs در فهرست سفید (whitelist) قرار دارند.

برای تشخیص دقیق IP های منبع درخواست ها، می توانید لاگهای سرور (مانند access.log یا error.log) را بررسی کنید. در لاگ ها به دنبال خطوطی بگردید که وضعیت 403 نمایش می دهد؛ معمولاً در کنار آنها آدرس IP مراجع ذکر می شود. اگر از سرویس های ابری مانند Cloudflare استفاده می کنید، لاگ های Firewall Events نیز می تواند IP های مسدود شده را نشان دهد. در ادامه، فهرست مختصری از محدوده های IP رسمی Ahrefs آورده شده است که می توانید برای مقایسه استفاده کنید.

بخشمحدوده IP (نمونه)
سرورهای کشف بک لینک34.239.0.0 - 34.239.255.255
سرورهای ردیابی رتبه52.207.0.0 - 52.207.255.255
سرورهای API13.56.0.0 - 13.56.255.255

پس از شناسایی IP های مورد نیاز، می توانید آن ها را در فایروال خود مجاز کنید. در زیر یک چک لیست کوتاه برای رایج ترین ابزارها آورده شده است:

  • iptables (Linux): اضافه کردن قانون iptables -I INPUT -s -j ACCEPT برای هر IP.
  • Cloudflare Firewall: ایجاد یک “Whitelist Rule” با شرط IP Source Address برابر با محدوده های Ahrefs.
  • cPanel > IP Blocker: حذف IP های مسدود شده از لیست “Denied IPs”.
  • WordPress security plugins (مثل Wordfence): افزودن IPهای Ahrefs به “Whitelisted IP Addresses”.

مثال عملی: فرض کنید لاگ شما نشان می دهد که IP 34.239.12.45 توسط فایروال iptables رد شده است. با اجرای دستور زیر می توانید آن را رفع کنید:

sudo iptables -I INPUT -s 34.239.12.45 -j ACCEPT

پس از اعمال تغییرات، یک درخواست تستی به Ahrefs (مثلاً با استفاده از ابزار “Site Explorer”) انجام دهید؛ اگر پاسخ 200 (OK) دریافت شد، مشکل برطرف شده است. این کار نه تنها خطای 403 را رفع می کند بلکه به Ahrefs اجازه می دهد تا به روزترین داده های سئو را برای سایت شما بازیابی کند.

اصلاح هدرهای درخواست HTTP صحیح

Ahrefs برای اسکن محتوای سایت شما به یک درخواست HTTP استاندارد نیاز دارد. اگر هدرهای ارسالی به درستی تنظیم نشده باشند، سرور ممکن است درخواست را به عنوان غیرقانونی تشخیص داده و با خطای 403 Forbidden پاسخ دهد. این مشکل به ویژه وقتی رخ می دهد که سرور به دلیل تنظیمات امنیتی یا فایروال، هدرهای مشکوک یا ناقص را رد می کند. بنابراین، اطمینان از صحت هدرهای کلیدی می تواند اولین گام مؤثر برای رفع این خطا باشد.

سه هدر اصلی که بیشترین تأثیر را دارند عبارتند از User-Agent، Accept-Language و Referer. Ahrefs یک User-Agent شبیه به Mozilla/5.0 (compatible; AhrefsBot/7.0; +http://ahrefs.com/robot/) می فرستد؛ اگر سرور تنها مرورگرهای شناخته شده را بپذیرد، این هدر رد می شود. همچنین، مقدار Accept-Language باید به صورت en-US,en;q=0.9 یا مشابه آن تنظیم شود تا محتوای چندزبانه به درستی ارائه شود. در نهایت، ارسال یک Referer معتبر (معمولاً آدرس صفحه ای که لینک را دارد) می تواند از فیلترهای anti‑scraping جلوگیری کند.

برای بررسی هدرهای ارسالی به سایت تان می توانید یکی از روش های زیر را به کار ببرید:

  • استفاده از curl -I -A "AhrefsBot/7.0" https://example.com در خط فرمان برای مشاهده پاسخ سرور.
  • باز کردن Network در ابزارهای توسعه دهنده مرورگر و فیلتر کردن درخواست های AhrefsBot برای بررسی مقدار هدرها.
  • بررسی لاگ های وب سرور (مانند access.log) و جستجوی کد وضعیت 403 همراه با نام کاربری AhrefsBot.
  • اگر از WAF یا افزونه امنیتی استفاده می کنید، تنظیمات آن را طوری پیکربندی کنید که User-Agent مخصوص Ahrefs را به عنوان معتبر شناسایی کند.

در ادامه یک جدول مقایسه ای کوتاه ارائه شده است که نشان می دهد چه مقادیر هدرها باید باشد و چه مقادیری می توانند منجر به مسدود شدن شوند:

هدرمقدار پیشنهادیمقدار نادرست (مسدود کننده)
User-AgentMozilla/5.0 (compatible; AhrefsBot/7.0; +http://ahrefs.com/robot/)curl/7.68.0 یا هر مقدار سفارشی بدون شناسه Ahrefs
Accept-Languageen-US,en;q=0.9فارسی؛ یا مقدار خالی
Refererhttps://ahrefs.com/خالی یا دامنه های غیرمجاز

یک مثال عملی: اگر وب سایت شما با Apache اجرا می شود، می توانید با افزودن خط زیر به فایل .htaccess هدرهای مورد نیاز را به صورت صریح اجازه دهید:

UAGE
SetEnvIfNoCase User-Agent "AhrefsBot" allow_ahrefs

    Header set Accept-Language "en-US,en;q=0.9"
    Header set Referer "https://ahrefs.com/"

پس از ذخیره و بارگذاری مجدد پیکربندی، درخواست های Ahrefs باید بدون برخورد به خطای 403 اجرا شوند و دسترسی به تمام صفحات سایت برای آن بازگردد.

به روزرسانی توکن های API به موقع

خطای 403 Forbidden اغلب زمانی رخ می دهد که توکن API Ahrefs منقضی شده یا دسترسی های مرتبط با آن تغییر کرده باشد. سرویس های سئو برای احراز هویت از توکن های موقت استفاده می کنند؛ وقتی تاریخ انقضا می رسد، درخواست های شما به صورت رد می شوند و Ahrefs پاسخ 403 می دهد. بنابراین به روز رسانی منظم توکن ها یکی از ساده ترین راه حل ها برای جلوگیری از این خطا است.

اولین قدم، بررسی وضعیت فعلی توکن است. وارد حساب کاربری Ahrefs شوید، به بخش API Settings بروید و تاریخ انقضای توکن را ببینید. اگر زمان باقی مانده کمتر از ۷ روز باشد، بلافاصله توکن جدیدی ایجاد کنید. می توانید از curl یا ابزارهای خط فرمان مثل httpie برای تست اعتبار توکن استفاده کنید:

CODE
curl -H "Authorization: Bearer YOUR_TOKEN" https://apiv2.ahrefs.com/v2/site-explorer?target=example.com

اگر خروجی حاوی کد 403 باشد، زمان آن رسیده است که توکن را تازه کنید. در اکثر موارد Ahrefs یک دکمه «Regenerate Token» دارد که به صورت خودکار توکن جدیدی می سازد. توکن تازه را کپی کنید و در تنظیمات برنامه یا اسکریپت های خود جایگزین کنید.

برای جلوگیری از فراموشی به روزرسانی توکن، می توانید این کار را خودکار کنید. یک اسکریپت ساده در Python می تواند هر هفته توکن را بررسی و در صورت نزدیک به انقضا، درخواست تازه سازی بفرستد. مثال زیر نشان می دهد چگونه می توانید از requests استفاده کنید و توکن جدید را در یک فایل متنی ذخیره کنید:

CODE
import requests, json, datetime

API_URL = "https://apiv2.ahrefs.com/v2/token/refresh"
CURRENT_TOKEN = open("ahrefs_token.txt").read().strip()

response = requests.post(API_URL, headers={"Authorization": f"Bearer {CURRENT_TOKEN}"})
if response.status_code == 200:
    new_token = response.json()["access_token"]
    with open("ahrefs_token.txt", "w") as f:
        f.write(new_token)
    print("Token refreshed at", datetime.datetime.now())
else:
    print("Failed to refresh token:", response.status_code)

به علاوه، رعایت نکات امنیتی و نگهداری توکن در مکان های امن (مانند متغیرهای محیطی یا سرویس های مدیریت راز) از بروز مشکلات دیگر جلوگیری می کند. جدول زیر یک مرور سریع از کارهای کلیدی و فواصل پیشنهادی آن ها را ارائه می دهد:

عملدوره پیشنهادیابزار/روش
بررسی تاریخ انقضای توکنهفتگیداشبورد Ahrefs یا اسکریپت curl
ایجاد توکن جدیددر صورت نیاز (≤۷ روز باقی مانده)دکمه «Regenerate Token» در پنل
تجدید خودکار توکنماهانه یا بر حسب تاریخ انقضااسکریپت Python با cron
نگهداری ایمن توکنهمیشهمتغیرهای محیطی یا سرویس های مدیریت راز

استفاده از VPN یا پراکسی ایمن

آه رفس به طور خودکار درخواست های مشکوک یا مکرر از یک آدرس IP را مسدود می کند؛ بنابراین استفاده از یک VPN یا پراکسی ایمن می تواند به سرعت دسترسی شما را بازگرداند. این ابزارها آدرس IP واقعی شما را مخفی می کنند و ترافیک را از طریق سرورهای دیگر عبور می دهند، به طوری که سرورهای آه رفس نتوانند به سرعت تشخیص دهند کدام کاربر در حال جستجو است.

هنگام انتخاب VPN یا پراکسی حتماً به نکات زیر توجه کنید:

  • حفظ حریم خصوصی: سرویس باید سیاست «no‑logs» داشته باشد، یعنی هیچ گونه رکوردی از فعالیت های شما نگه نمی دارد.
  • پوشش جغرافیایی: سرورهای متنوع در مناطق مختلف (آسیا، اروپا، آمریکا) امکان تغییر IP به سرعت را می دهند.
  • سرعت و پهنای باند: برای استفاده از ابزارهای سنگین SEO مانند آه رفس، نیاز به اتصال پایدار و با تأخیر کم دارید.
  • پروتکل های امن: پشتیبانی از OpenVPN یا WireGuard به معنی رمزنگاری قوی تر است.
ویژگیVPNپراکسی ایمن
رمزنگاری کاملبلهمعمولاً نه
پنهان سازی تمام ترافیکبلهفقط مرورگر یا برنامه خاص
سرعت متوسطمتوسط‑به‑بالابالا (بدون رمزنگاری)
قابلیت تغییر سروردسترس پذیر در تمام اپلیکیشن هامعمولاً محدود به یک نقطه

به عنوان مثال، اگر از سرویس «NordVPN» استفاده کنید، ابتدا برنامه را نصب و به یک سرور نزدیک به دیتاسنترهای آه رفس (مثلاً در ایالات متحده) متصل کنید. سپس مرورگر یا افزونه Ahrefs خود را باز کنید؛ در اکثر موارد، خطای 403 به سرعت ناپدید می شود زیرا درخواست ها از IP جدید ارسال می شوند. برای اطمینان، یکبار صفحه «Site Explorer» را رفرش کنید و ببینید آیا داده ها بدون مشکل بارگذاری می شوند یا نه. در صورتی که مشکل همچنان باقی ماند، سرور دیگری را امتحان کنید یا تنظیمات «kill switch» را فعال کنید تا در صورت قطع VPN، ترافیک به صورت مستقیم بیرون نرود.

تست اتصال و اطمینان از رفع مشکل

پس از اعمال تغییرات پیشنهادی (مثلاً تنظیم پروکسی، به روزرسانی IP یا بازنشانی توکن API)، اولین کاری که باید انجام دهید، تست سریع اتصال Ahrefs است. برای این کار به داشبورد Ahrefs رفته و یک درخواست ساده مثل «Add new project» یا «Site Explorer» را اجرا کنید؛ اگر صفحه بدون نمایش خطای 403 بارگذاری شد، یعنی مشکل اساسی برطرف شده است. اگر هنوز خطا مشاهده شد، به گام های زیر برای بررسی دقیق تر پیش بروید.

یک روش مؤثر برای تأیید وضعیت HTTP، استفاده از ابزار خط فرمان curl یا افزونه های مرورگر است. دستور زیر را در ترمینال اجرا کنید (آدرس API را با کلید شخصی خود جایگزین کنید):

CODE
curl -I -H "Authorization: Bearer YOUR_TOKEN" https://apiv2.ahrefs.com/v2/site-explorer

اگر پاسخ شامل 200 OK بود، اتصال موفق است؛ اگر همچنان 403 Forbidden برگردد، احتمالاً محدودیتی در سطح فایروال یا لیست سفید IP باقی مانده است.

مرحلهعملیات
1️⃣پاک سازی کش مرورگر و کوکی ها
2️⃣بررسی دسترسی به apiv2.ahrefs.com از سرور با ping یا nslookup
3️⃣اجرای curl برای دریافت هدر HTTP
4️⃣تست یک پروژه جدید در داشبورد Ahrefs
5️⃣در صورت بروز خطا، مرور لاگ های وب سرور یا CDN برای مسدود شدن IP

به عنوان مثال، یک کاربر پس از تغییر تنظیمات فایروال در سرور خود، دوباره به داشبورد Ahrefs دسترسی پیدا کرد؛ اما درخواست API همچنان 403 می داد. با اجرای curl متوجه شد که IP سرور در لیست سفید Ahrefs نیست. افزودن IP به لیست سفید در تنظیمات Ahrefs (در بخش “IP Whitelist”) مشکل را به سرعت رفع کرد و تمام تست ها موفق شدند.

در نهایت، برای اطمینان نهایی می توانید یک بار دیگر گزارش وضعیت را از منوی «Site Audit» اجرا کنید؛ اگر ابزار به صورت کامل داده ها را جمع آوری کرد و هیچ هشدار 403 در لاگ ها ظاهر نشد، می توانید مطمئن باشید که مشکل برطرف شده و Ahrefs به درستی با سایت شما ارتباط برقرار می کند.

سوالات متداول

چرا Ahrefs با خطای 403 مواجه می شود

این خطا معمولاً به دلیل بلاک شدن درخواست های شما توسط سرور هدف است. سرور ممکن است به دلیل تعداد زیاد درخواست یا عدم شناسایی کاربر، دسترسی را رد کند.

چگونه می توانم IP خود را برای Ahrefs سفید کنم

اولین قدم بررسی لیست سیاه IP در سرویس های امنیتی است. اگر IP شما بلاک شده باشد، با پشتیبانی هاست یا سرویس CDN تماس بگیرید و درخواست رفع بلاک را بدهید.

آیا تغییر DNS می تواند مشکل 403 را رفع کند

تغییر DNS به سرویس های عمومی مثل Cloudflare یا Google DNS می تواند مسیرهای بهتری برای دسترسی فراهم کند. اما اگر بلاک سمت سرور باشد، این کار تأثیر زیادی ندارد.

چه تنظیماتی در مرورگر یا افزونه ها باعث 403 می شود

برخی افزونه های مسدودکننده تبلیغات یا VPNها می توانند هدرهای درخواست را تغییر دهند. مرورگر را در حالت Incognito باز کنید یا افزونه های مشکوک را غیرفعال کنید.

چک لیست سریع

  • تشخیص دقیق علل خطای 403.
  • بررسی و تنظیم مجدد IP و فایروال برای جلوگیری از مسدود شدن.
  • به روزرسانی هدرهای HTTP بر اساس نیازهای Ahrefs.
  • تجدید یا به روز رسانی به موقع توکن های API.
  • استفاده از VPN یا پراکسی امن برای عبور از محدودیت ها.
  • انجام تست اتصال پس از هر تغییر برای اطمینان از رفع مشکل.

با اجرای این نکات، دسترسی به Ahrefs به سرعت باز می شود و خطای 403 برطرف می گردد. اگر همچنان مشکلی باقی مانده بود، می توانید جزئیات بیشتری بررسی یا سؤال کنید. خوشحال می شوم نظرات یا تجربیات خود را در این زمینه به اشتراک بگذارید.

نوشته‌شده و بازبینی‌شده توسط

متخصص سئو، وردپرس و تولید محتوا

اولین نفری باش که نظر می‌ده!

فقط نام لازم است، ایمیل اختیاریه و منتشر نمی‌شه.