وقتی در حال تجزیه و تحلیل بک لینک ها یا کلمات کلیدی خود با خطای 403 Forbidden در Ahrefs مواجه می شوید، کار شما به سرعت متوقف می شود و اضطراب تان افزایش می یابد. این مقاله، به صورت گام به گام و بر پایه تجربهٔ متخصصان سئو، روش های دقیق رفع این مانع را به شما نشان می دهد. از تنظیمات مرورگر و بررسی دسترسی IP تا به کارگیری توکن های معتبر و پیکربندی صحیح سرور، هر مرحله با مثال های واقعی توضیح داده می شود.
همچنین نکات پیشگیرانه ای که باعث می شود این خطا در آینده کمتر رخ دهد، در بخش های انتهایی گنجانده شده است. با دنبال کردن این راهنمای جامع، می توانید دوباره به سرعت به داده های ارزشمند Ahrefs دسترسی پیدا کنید و تمرکز خود را بر بهینه سازی استراتژی های دیجیتال حفظ کنید.
فهرست مطالب
- درک خطای دسترسی ممنوع Ahrefs
- بررسی تنظیمات IP و فایروال
- اصلاح هدرهای درخواست HTTP صحیح
- به روزرسانی توکن های API به موقع
- استفاده از VPN یا پراکسی ایمن
- تست اتصال و اطمینان از رفع مشکل
- سوالات متداول
درک خطای دسترسی ممنوع Ahrefs
خطای 403 Forbidden به این معناست که سرور درخواست شما را دریافت کرده اما به دلایل امنیتی یا دسترسی اجازه پردازش آن را نمی دهد. وقتی Ahrefs با این خطا مواجه می شود، در واقع ابزار به دسترسی به صفحات شما برای جمع آوری داده های سئو نمی تواند ادامه دهد. این مسأله می تواند به صورت ناگهانی ظاهر شود، حتی اگر پیش از آن Ahrefs بدون مشکل کار می کرد.
دلیل رایج بروز این خطا، مسدود شدن آدرس IP ابزار توسط فایروال یا تنظیمات امنیتی سرور است. بسیاری از سرویس های میزبانی وب، CDNها (مانند Cloudflare) و افزونه های امنیتی به صورت خودکار ترافیک مشکوک یا با نرخ بالای درخواست ها را مسدود می کنند. علاوه بر این، عدم ارائه یک User-Agent معتبر توسط Ahrefs، یا تنظیمات نادرست فایل robots.txt که دسترسی ربات ها را به کل دامنه یا مسیرهای خاصی ممنوع می کند، می تواند منجر به دریافت کد 403 شود.
برای تشخیص دقیق مشکل، می توانید این فهرست کوتاه را قدم به قدم اجرا کنید:
- بررسی لاگ های سرور برای یافتن درخواست های Ahrefs (معمولاً با آی پی های
104.XXX.xxx.xxxیا دامنه هایahrefs.com) و بررسی وضعیت 403. - مطمئن شوید که آدرس های IP Ahrefs در فایروال یا تنظیمات IP whitelist لیست سفید شده اند.
- اگر از CDN استفاده می کنید، تنظیمات “Bot Fight” یا “Rate Limiting” را بررسی و در صورت نیاز استثنا برای Ahrefs اضافه کنید.
- فایل
robots.txtخود را بازبینی کنید؛ خطی مانندDisallow: /برای همه ربات ها می تواند Ahrefs را مسدود کند. - در صورت استفاده از افزونه های امنیتی وردپرس یا Joomla، گزینه های “Block Bad Bots” را موقتاً غیرفعال کنید و رفتار Ahrefs را مجدداً تست کنید.
نمونه ای عملی: یک وب سایت فروشگاهی که از Cloudflare به عنوان CDN استفاده می کرد، پس از به روزرسانی تنظیمات “Security Level” به “High” به سرعت درخواست های Ahrefs را به 403 تبدیل کرد. با ورود به داشبورد Cloudflare، در بخش “Tools → IP Access Rules” آدرس های IP Ahrefs را به لیست سفید افزودند و در همان بخش “Firewall → Managed Rules” قاعده ای برای استثنای مسیر /sitemap.xml ایجاد کردند. پس از این تغییرات، Ahrefs توانست دوباره به صورت کامل ایندکس سازی کند.
| دلیل خطا | راه حل پیشنهادی |
|---|---|
| مسدود شدن IP توسط فایروال | IPهای Ahrefs را در whitelist اضافه کنید |
| قوانین Rate Limiting در CDN | استثنا برای مسیرهای مهم (مانند sitemap) تنظیم کنید |
| robots.txt مسدودکننده | خطوط Disallow غیرضروری را حذف یا اصلاح کنید |
| عدم User-Agent معتبر | در تنظیمات سرور یا افزونه ها، User-Agent Ahrefs را بپذیرید |
بررسی تنظیمات IP و فایروال
خطای 403 معمولاً وقتی رخ می دهد که سرور درخواست های Ahrefs را به عنوان ترافیک مشکوک شناسایی کند. یکی از رایج ترین دلایل این مسأله، مسدود شدن آدرس های IP ابزارهای Ahrefs توسط فایروال یا تنظیمات امنیتی میزبان است. پیش از اینکه به تنظیمات پیشرفته تر بپردازید، ابتدا باید مطمئن شوید که IP های Ahrefs در فهرست سفید (whitelist) قرار دارند.
برای تشخیص دقیق IP های منبع درخواست ها، می توانید لاگهای سرور (مانند access.log یا error.log) را بررسی کنید. در لاگ ها به دنبال خطوطی بگردید که وضعیت 403 نمایش می دهد؛ معمولاً در کنار آنها آدرس IP مراجع ذکر می شود. اگر از سرویس های ابری مانند Cloudflare استفاده می کنید، لاگ های Firewall Events نیز می تواند IP های مسدود شده را نشان دهد. در ادامه، فهرست مختصری از محدوده های IP رسمی Ahrefs آورده شده است که می توانید برای مقایسه استفاده کنید.
| بخش | محدوده IP (نمونه) |
|---|---|
| سرورهای کشف بک لینک | 34.239.0.0 - 34.239.255.255 |
| سرورهای ردیابی رتبه | 52.207.0.0 - 52.207.255.255 |
| سرورهای API | 13.56.0.0 - 13.56.255.255 |
پس از شناسایی IP های مورد نیاز، می توانید آن ها را در فایروال خود مجاز کنید. در زیر یک چک لیست کوتاه برای رایج ترین ابزارها آورده شده است:
- iptables (Linux): اضافه کردن قانون
iptables -I INPUT -sبرای هر IP.-j ACCEPT - Cloudflare Firewall: ایجاد یک “Whitelist Rule” با شرط
IP Source Addressبرابر با محدوده های Ahrefs. - cPanel > IP Blocker: حذف IP های مسدود شده از لیست “Denied IPs”.
- WordPress security plugins (مثل Wordfence): افزودن IPهای Ahrefs به “Whitelisted IP Addresses”.
مثال عملی: فرض کنید لاگ شما نشان می دهد که IP 34.239.12.45 توسط فایروال iptables رد شده است. با اجرای دستور زیر می توانید آن را رفع کنید:
sudo iptables -I INPUT -s 34.239.12.45 -j ACCEPT
پس از اعمال تغییرات، یک درخواست تستی به Ahrefs (مثلاً با استفاده از ابزار “Site Explorer”) انجام دهید؛ اگر پاسخ 200 (OK) دریافت شد، مشکل برطرف شده است. این کار نه تنها خطای 403 را رفع می کند بلکه به Ahrefs اجازه می دهد تا به روزترین داده های سئو را برای سایت شما بازیابی کند.
اصلاح هدرهای درخواست HTTP صحیح
Ahrefs برای اسکن محتوای سایت شما به یک درخواست HTTP استاندارد نیاز دارد. اگر هدرهای ارسالی به درستی تنظیم نشده باشند، سرور ممکن است درخواست را به عنوان غیرقانونی تشخیص داده و با خطای 403 Forbidden پاسخ دهد. این مشکل به ویژه وقتی رخ می دهد که سرور به دلیل تنظیمات امنیتی یا فایروال، هدرهای مشکوک یا ناقص را رد می کند. بنابراین، اطمینان از صحت هدرهای کلیدی می تواند اولین گام مؤثر برای رفع این خطا باشد.
سه هدر اصلی که بیشترین تأثیر را دارند عبارتند از User-Agent، Accept-Language و Referer. Ahrefs یک User-Agent شبیه به Mozilla/5.0 (compatible; AhrefsBot/7.0; +http://ahrefs.com/robot/) می فرستد؛ اگر سرور تنها مرورگرهای شناخته شده را بپذیرد، این هدر رد می شود. همچنین، مقدار Accept-Language باید به صورت en-US,en;q=0.9 یا مشابه آن تنظیم شود تا محتوای چندزبانه به درستی ارائه شود. در نهایت، ارسال یک Referer معتبر (معمولاً آدرس صفحه ای که لینک را دارد) می تواند از فیلترهای anti‑scraping جلوگیری کند.
برای بررسی هدرهای ارسالی به سایت تان می توانید یکی از روش های زیر را به کار ببرید:
- استفاده از
curl -I -A "AhrefsBot/7.0" https://example.comدر خط فرمان برای مشاهده پاسخ سرور. - باز کردن Network در ابزارهای توسعه دهنده مرورگر و فیلتر کردن درخواست های
AhrefsBotبرای بررسی مقدار هدرها. - بررسی لاگ های وب سرور (مانند
access.log) و جستجوی کد وضعیت403همراه با نام کاربریAhrefsBot. - اگر از WAF یا افزونه امنیتی استفاده می کنید، تنظیمات آن را طوری پیکربندی کنید که
User-Agentمخصوص Ahrefs را به عنوان معتبر شناسایی کند.
در ادامه یک جدول مقایسه ای کوتاه ارائه شده است که نشان می دهد چه مقادیر هدرها باید باشد و چه مقادیری می توانند منجر به مسدود شدن شوند:
| هدر | مقدار پیشنهادی | مقدار نادرست (مسدود کننده) |
|---|---|---|
| User-Agent | Mozilla/5.0 (compatible; AhrefsBot/7.0; +http://ahrefs.com/robot/) | curl/7.68.0 یا هر مقدار سفارشی بدون شناسه Ahrefs |
| Accept-Language | en-US,en;q=0.9 | فارسی؛ یا مقدار خالی |
| Referer | https://ahrefs.com/ | خالی یا دامنه های غیرمجاز |
یک مثال عملی: اگر وب سایت شما با Apache اجرا می شود، می توانید با افزودن خط زیر به فایل .htaccess هدرهای مورد نیاز را به صورت صریح اجازه دهید:
SetEnvIfNoCase User-Agent "AhrefsBot" allow_ahrefs
Header set Accept-Language "en-US,en;q=0.9"
Header set Referer "https://ahrefs.com/"
پس از ذخیره و بارگذاری مجدد پیکربندی، درخواست های Ahrefs باید بدون برخورد به خطای 403 اجرا شوند و دسترسی به تمام صفحات سایت برای آن بازگردد.
به روزرسانی توکن های API به موقع
خطای 403 Forbidden اغلب زمانی رخ می دهد که توکن API Ahrefs منقضی شده یا دسترسی های مرتبط با آن تغییر کرده باشد. سرویس های سئو برای احراز هویت از توکن های موقت استفاده می کنند؛ وقتی تاریخ انقضا می رسد، درخواست های شما به صورت رد می شوند و Ahrefs پاسخ 403 می دهد. بنابراین به روز رسانی منظم توکن ها یکی از ساده ترین راه حل ها برای جلوگیری از این خطا است.
اولین قدم، بررسی وضعیت فعلی توکن است. وارد حساب کاربری Ahrefs شوید، به بخش API Settings بروید و تاریخ انقضای توکن را ببینید. اگر زمان باقی مانده کمتر از ۷ روز باشد، بلافاصله توکن جدیدی ایجاد کنید. می توانید از curl یا ابزارهای خط فرمان مثل httpie برای تست اعتبار توکن استفاده کنید:
curl -H "Authorization: Bearer YOUR_TOKEN" https://apiv2.ahrefs.com/v2/site-explorer?target=example.comاگر خروجی حاوی کد 403 باشد، زمان آن رسیده است که توکن را تازه کنید. در اکثر موارد Ahrefs یک دکمه «Regenerate Token» دارد که به صورت خودکار توکن جدیدی می سازد. توکن تازه را کپی کنید و در تنظیمات برنامه یا اسکریپت های خود جایگزین کنید.
برای جلوگیری از فراموشی به روزرسانی توکن، می توانید این کار را خودکار کنید. یک اسکریپت ساده در Python می تواند هر هفته توکن را بررسی و در صورت نزدیک به انقضا، درخواست تازه سازی بفرستد. مثال زیر نشان می دهد چگونه می توانید از requests استفاده کنید و توکن جدید را در یک فایل متنی ذخیره کنید:
import requests, json, datetime
API_URL = "https://apiv2.ahrefs.com/v2/token/refresh"
CURRENT_TOKEN = open("ahrefs_token.txt").read().strip()
response = requests.post(API_URL, headers={"Authorization": f"Bearer {CURRENT_TOKEN}"})
if response.status_code == 200:
new_token = response.json()["access_token"]
with open("ahrefs_token.txt", "w") as f:
f.write(new_token)
print("Token refreshed at", datetime.datetime.now())
else:
print("Failed to refresh token:", response.status_code)به علاوه، رعایت نکات امنیتی و نگهداری توکن در مکان های امن (مانند متغیرهای محیطی یا سرویس های مدیریت راز) از بروز مشکلات دیگر جلوگیری می کند. جدول زیر یک مرور سریع از کارهای کلیدی و فواصل پیشنهادی آن ها را ارائه می دهد:
| عمل | دوره پیشنهادی | ابزار/روش |
|---|---|---|
| بررسی تاریخ انقضای توکن | هفتگی | داشبورد Ahrefs یا اسکریپت curl |
| ایجاد توکن جدید | در صورت نیاز (≤۷ روز باقی مانده) | دکمه «Regenerate Token» در پنل |
| تجدید خودکار توکن | ماهانه یا بر حسب تاریخ انقضا | اسکریپت Python با cron |
| نگهداری ایمن توکن | همیشه | متغیرهای محیطی یا سرویس های مدیریت راز |
استفاده از VPN یا پراکسی ایمن
آه رفس به طور خودکار درخواست های مشکوک یا مکرر از یک آدرس IP را مسدود می کند؛ بنابراین استفاده از یک VPN یا پراکسی ایمن می تواند به سرعت دسترسی شما را بازگرداند. این ابزارها آدرس IP واقعی شما را مخفی می کنند و ترافیک را از طریق سرورهای دیگر عبور می دهند، به طوری که سرورهای آه رفس نتوانند به سرعت تشخیص دهند کدام کاربر در حال جستجو است.
هنگام انتخاب VPN یا پراکسی حتماً به نکات زیر توجه کنید:
- حفظ حریم خصوصی: سرویس باید سیاست «no‑logs» داشته باشد، یعنی هیچ گونه رکوردی از فعالیت های شما نگه نمی دارد.
- پوشش جغرافیایی: سرورهای متنوع در مناطق مختلف (آسیا، اروپا، آمریکا) امکان تغییر IP به سرعت را می دهند.
- سرعت و پهنای باند: برای استفاده از ابزارهای سنگین SEO مانند آه رفس، نیاز به اتصال پایدار و با تأخیر کم دارید.
- پروتکل های امن: پشتیبانی از OpenVPN یا WireGuard به معنی رمزنگاری قوی تر است.
| ویژگی | VPN | پراکسی ایمن |
|---|---|---|
| رمزنگاری کامل | بله | معمولاً نه |
| پنهان سازی تمام ترافیک | بله | فقط مرورگر یا برنامه خاص |
| سرعت متوسط | متوسط‑به‑بالا | بالا (بدون رمزنگاری) |
| قابلیت تغییر سرور | دسترس پذیر در تمام اپلیکیشن ها | معمولاً محدود به یک نقطه |
به عنوان مثال، اگر از سرویس «NordVPN» استفاده کنید، ابتدا برنامه را نصب و به یک سرور نزدیک به دیتاسنترهای آه رفس (مثلاً در ایالات متحده) متصل کنید. سپس مرورگر یا افزونه Ahrefs خود را باز کنید؛ در اکثر موارد، خطای 403 به سرعت ناپدید می شود زیرا درخواست ها از IP جدید ارسال می شوند. برای اطمینان، یکبار صفحه «Site Explorer» را رفرش کنید و ببینید آیا داده ها بدون مشکل بارگذاری می شوند یا نه. در صورتی که مشکل همچنان باقی ماند، سرور دیگری را امتحان کنید یا تنظیمات «kill switch» را فعال کنید تا در صورت قطع VPN، ترافیک به صورت مستقیم بیرون نرود.
تست اتصال و اطمینان از رفع مشکل
پس از اعمال تغییرات پیشنهادی (مثلاً تنظیم پروکسی، به روزرسانی IP یا بازنشانی توکن API)، اولین کاری که باید انجام دهید، تست سریع اتصال Ahrefs است. برای این کار به داشبورد Ahrefs رفته و یک درخواست ساده مثل «Add new project» یا «Site Explorer» را اجرا کنید؛ اگر صفحه بدون نمایش خطای 403 بارگذاری شد، یعنی مشکل اساسی برطرف شده است. اگر هنوز خطا مشاهده شد، به گام های زیر برای بررسی دقیق تر پیش بروید.
یک روش مؤثر برای تأیید وضعیت HTTP، استفاده از ابزار خط فرمان curl یا افزونه های مرورگر است. دستور زیر را در ترمینال اجرا کنید (آدرس API را با کلید شخصی خود جایگزین کنید):
curl -I -H "Authorization: Bearer YOUR_TOKEN" https://apiv2.ahrefs.com/v2/site-explorerاگر پاسخ شامل 200 OK بود، اتصال موفق است؛ اگر همچنان 403 Forbidden برگردد، احتمالاً محدودیتی در سطح فایروال یا لیست سفید IP باقی مانده است.
| مرحله | عملیات |
|---|---|
| 1️⃣ | پاک سازی کش مرورگر و کوکی ها |
| 2️⃣ | بررسی دسترسی به apiv2.ahrefs.com از سرور با ping یا nslookup |
| 3️⃣ | اجرای curl برای دریافت هدر HTTP |
| 4️⃣ | تست یک پروژه جدید در داشبورد Ahrefs |
| 5️⃣ | در صورت بروز خطا، مرور لاگ های وب سرور یا CDN برای مسدود شدن IP |
به عنوان مثال، یک کاربر پس از تغییر تنظیمات فایروال در سرور خود، دوباره به داشبورد Ahrefs دسترسی پیدا کرد؛ اما درخواست API همچنان 403 می داد. با اجرای curl متوجه شد که IP سرور در لیست سفید Ahrefs نیست. افزودن IP به لیست سفید در تنظیمات Ahrefs (در بخش “IP Whitelist”) مشکل را به سرعت رفع کرد و تمام تست ها موفق شدند.
در نهایت، برای اطمینان نهایی می توانید یک بار دیگر گزارش وضعیت را از منوی «Site Audit» اجرا کنید؛ اگر ابزار به صورت کامل داده ها را جمع آوری کرد و هیچ هشدار 403 در لاگ ها ظاهر نشد، می توانید مطمئن باشید که مشکل برطرف شده و Ahrefs به درستی با سایت شما ارتباط برقرار می کند.
سوالات متداول
چرا Ahrefs با خطای 403 مواجه می شود
این خطا معمولاً به دلیل بلاک شدن درخواست های شما توسط سرور هدف است. سرور ممکن است به دلیل تعداد زیاد درخواست یا عدم شناسایی کاربر، دسترسی را رد کند.
چگونه می توانم IP خود را برای Ahrefs سفید کنم
اولین قدم بررسی لیست سیاه IP در سرویس های امنیتی است. اگر IP شما بلاک شده باشد، با پشتیبانی هاست یا سرویس CDN تماس بگیرید و درخواست رفع بلاک را بدهید.
آیا تغییر DNS می تواند مشکل 403 را رفع کند
تغییر DNS به سرویس های عمومی مثل Cloudflare یا Google DNS می تواند مسیرهای بهتری برای دسترسی فراهم کند. اما اگر بلاک سمت سرور باشد، این کار تأثیر زیادی ندارد.
چه تنظیماتی در مرورگر یا افزونه ها باعث 403 می شود
برخی افزونه های مسدودکننده تبلیغات یا VPNها می توانند هدرهای درخواست را تغییر دهند. مرورگر را در حالت Incognito باز کنید یا افزونه های مشکوک را غیرفعال کنید.
چک لیست سریع
- تشخیص دقیق علل خطای 403.
- بررسی و تنظیم مجدد IP و فایروال برای جلوگیری از مسدود شدن.
- به روزرسانی هدرهای HTTP بر اساس نیازهای Ahrefs.
- تجدید یا به روز رسانی به موقع توکن های API.
- استفاده از VPN یا پراکسی امن برای عبور از محدودیت ها.
- انجام تست اتصال پس از هر تغییر برای اطمینان از رفع مشکل.
با اجرای این نکات، دسترسی به Ahrefs به سرعت باز می شود و خطای 403 برطرف می گردد. اگر همچنان مشکلی باقی مانده بود، می توانید جزئیات بیشتری بررسی یا سؤال کنید. خوشحال می شوم نظرات یا تجربیات خود را در این زمینه به اشتراک بگذارید.
